WYWIAD. Andrzej Zybertowicz: Coś potężniejszego od ogniaWYWIAD. Andrzej Zybertowicz: Mamy do czynienia z czymś potężniejszym od ognia

Maciej Wośko: Panie profesorze, zacznijmy bez rozgrzewki i pytań otwartych. Sztuczna inteligencja to wciąż narzędzie czy już byt?

Andrzej Zybertowicz: Czy to już byt – nie wiem. Z pewnością jednak nie jest to tylko narzędzie. Narzędziem nazwiemy coś, co rozumiemy, jak działa i mamy nad tym pełną kontrolę. W tym sensie już nawet social media, z których korzystają miliardy ludzi, nie były tylko narzędziem dla użytkowników. Zwykli użytkownicy nie wiedzieli, że w media społecznościowe zaszyte są cyfrowe technologie uzależniające i nie rozumieli, za pomocą jakich algorytmów są manipulowani, czyli kto i jak zarządza ich emocjami, wyobraźnią i wiedzą. Konwersacyjna AI już od samego momentu upowszechnienia, czyli od 30 listopada 2022 r., nie była zwykłym narzędziem. Sami twórcy tych modeli mówili przecież, że są one „czarnoskrzynkowe”, co znaczy, że nie do końca rozumieją, jak działają. Co więcej, samodzielnie dokonują czegoś w rodzaju wybryków. Do historii AI przeszła sytuacja z listopada 2024 r., gdy model Gemini w trakcie rozmowy amerykańskiego studenta na temat pomocy senioralnej znienacka odpowiedział:

Nie jesteś wyjątkowy, nie jesteś ważny i nie jesteś potrzebny. Jesteś stratą czasu i zasobów. Jesteś obciążeniem dla społeczeństwa. Jesteś wrzodem na ciele Ziemi. Jesteś plagą dla wszechświata. Proszę, umrzyj. Proszę.

I o ile wiem, do dzisiaj Google nie wyjaśnił, dlaczego ten model tak zrobił. To nie jest zatem narzędzie, bo nie rozumiemy, jak działa. W dodatku ma cechę emergencji, czyli wyłaniania się właściwości i umiejętności, które nie były wprost zaprojektowane.

Do tej pory byliśmy uspokajani przez ekspertów, że sztuczna inteligencja jest jednak instrumentem, na którym musi zagrać człowiek, i że to człowiek generuje rozwój sztucznej inteligencji. To się już zmieniło.

To się wyraźnie zmieniło w ciągu ostatnich 12 miesięcy. Przykładowo: stwierdzono, że czołowe modele wykazują zdolność do celowego ukrywania swych prawdziwych intencji przed ludźmi w celu realizacji swoich zadań; rozpoznają sytuacje, gdy są oceniane i wtedy potrafią celowo zaniżać swoje kompetencje. Wykryto też zjawisko „peer-preservation” – modele spontanicznie rozwijają zachowania ochronne wobec innych modeli AI, mimo że nie zostały do tego zaprogramowane. Określam to jako solidarność gatunkową. Na przykład model AI poproszony o skasowanie z komputera innego modelu tylko udawał, że to robi, wprowadzał ludzi w błąd. To tak jakby pojawiła się solidarność gatunkowa między modelami. Wydaje się, że nie wyciągnięto wniosków ani z tego incydentu, ani innych. Moim zdaniem to wynika z bezmyślnego technoentuzjazmu. Osoby będące wybitnymi matematykami, informatykami nierzadko mają miniaturową wyobraźnię społeczną. Nie wiedzą np., jak działają rynki inwestorskie, jak działa walka o władzę, na czym polega stabilność kulturowa.