Prof. Zybertowicz: Trwa wyścig zbrojeń: kto szybciej będzie miał wydajniejszą sztuczną inteligencję? Co to oznacza?

Nie tylko wakacyjny luz - choć na Owsiakowym Woodstocku nie byłem - powoduje, iż zaglądam w przyszłość. I to nie byle jaką, bo przyszłość całej ludzkości. I od razu ostrzegam: Czytelniku, jeśliś nie gotów przeczytać niniejszego tekstu minimum 3 razy, to w ogóle nie brnij dalej w lekturę.

„Bezbłędne” automaty

Eksperci twierdzą, iż już urodził się ostatni człowiek, który będzie pilotem – przynajmniej jeśli chodzi o pilotowanie dużych samolotów pasażerskich. Może ludziom pozostanie pilotowanie awionetek dla przyjemności. Ale i to wątpliwe. Skoro automaty mylą się znacznie rzadziej niż ludzie, to pod hasłem bezpieczeństwa lotów z pilotami będzie koniec.

Już obecnie na potężną skalę finansowe gry, ba, niemal wojny, toczą automaty wykonujące miliony transakcji (poczytajcie np. o high-frequency trading). Już w 2001 w Czarnych oceanach opisał to niezrównany Jacek Dukaj.

Ale jeśli ktoś myśli, że jako socjologowi chodzi mi o bezrobocie, które przyniesie narastająca automatyzacja, to się myli. Idzie o coś znacznie poważniejszego.

Przetwarzanie, przetwarzanie, przetwarzanie

W 2003 r. byłem w Oslo na konferencji poświęconej sprawom nadzoru nad tajnymi służbami; nawiasem, poza mną z Polski był Antoni Macierewicz, ówcześnie członek Sejmowej Komisji do Spraw Służb. Na konferencji wybitny ekspert prof. Loch Johnson wspomniał rozmowę z ówczesnym szefem National Security Agency (NSA). Tak, tej samej, której osiągnięcia na polu masowej inwigilacji ujawnił Edward Snowden. Johnson spytał szefa NSA, jakie są najważniejsze problemy Agencji. Ten odpowiedział: po pierwsze przetwarzanie danych, po drugie, przetwarzanie danych, po trzecie…

Dziś technologia umożliwia przechwytywanie ogromnej części elektronicznego ruchu komunikacyjnego, jaki wytwarza ludzkość. Przechwycenie i zapisanie tego nie jest najtrudniejsze. Prawdziwe wyzwanie to, jak w tym oceanie informacji, w ogromnej części bezużytecznych, wyłowić wiedzę kluczową dla bezpieczeństwa państwa. Jak przeszukiwać ogromne bazy danych, by wydobyć wrażliwe informacje, sprawdzać, kojarzyć je i przetworzyć na poręczną wiedzę.

To m.in. świadomość tego problemu spowodowała zainwestowanie potężnych środków w rozwój zautomatyzowanych systemów przetwarzania informacji. Słowem, trwa wyścig zbrojeń: kto szybciej będzie miał wydajniejszą sztuczną inteligencję – np. USA czy Chiny?

To wszystko stanowi tło. A teraz problem.

Singularity czyli Apokalipsa?

Na intelektualną historię ludzkości (magia-religia-sztuka-nauka) można spojrzeć jako na próbę odkodowania świata. Dzieje okryć naukowych to rozpisany na wiele głosów i kroków mozół stopniowego, niebywale pracochłonnego, w ogromnej części rozwijającego się metodą prób i błędów poznania naukowego. Uczenie się świata przez ludzkość. Proces, jak chcą niektórzy myśliciele, oświecania ludzkości. Postępujący tryumf rozumu. Proces zamiany – jak mówią, często nie bez racji – zabobonów, przesądów w twardą, sprawdzalną i sprawdzoną wiedzę.

Tymczasem mało kto dostrzega, że sukces na polu SI najprawdopodobniej będzie oznaczał odwrócenie całego tego procesu, wysiłku pokoleń skierowanego na zrozumienie świata. Dlaczego?

W momencie gdy samodzielnie ruszy, gdy samodzielnie zacznie uczyć się i ewoluować coś co zasługuje na miano SI, najprawdopodobniej będzie ona (rodzaj żeński jak najbardziej na miejscu) przekształcała się według zasad, których nikt z ludzi nie będzie w stanie pojąć. W tym kontekście mówi się o tzw. osobliwości technologicznej (technological singularity).

Panowanie SI będzie zatem oznaczało wytworzenie, zbudowanie nowej nieprzejrzystości, nowej epoki ciemności. Owocem tysiącletnich dociekań ludzkości będzie świat rządzony przez mechanizm nie-do-pojęcia.

Postępujące naprzód prace nad sztuczną inteligencją są o wiele bardziej zaawansowane niż się to wielu osobom, które z tematyką nie są bliżej zaprzyjaźnione, wydaje. Może już jesteśmy o krok od kolejnego, tym razem wirtualnego, spalenia aleksandryjskiej biblioteki. Nowego, ale znacznie gorszego – m.in. ze względu na swój globalny charakter – Średniowiecza. Średniowiecza, które nim nie będzie, gdyż nie będzie między wiekami, ale po nich.

„W przyszłość wkraczamy tyłem”

Cały czas oddajemy się pod władzę systemów, których zasady działania pojmują nieliczni. Funkcjonowania SI kolejnej generacji nie będzie pojmował nikt - nawet najwybitniejsi geniusze matematyki (jak np. Grigorij Perelman) ani mistrzowie manipulacji (jak główny bohater serialu House of Cards).

Tekst ukazał się w tygodniku „wSieci”.