Zerwać owoc? "Trudno znaleźć lepszy sposób „wykonania” apokalipsy niż budowanie przez nieroztropnych ludzi AI"

Nasze słabości i pokusy – to je musimy opanować. Inaczej czeka nas ścieżka głupoty.

Na koniec ponad dwugodzinnej rozmowy o zagrożeniach, jakie ludzkości może przynieść sztuczna superinteligencja, jeden gość pyta drugiego: „Jak myślisz, jaki jest sens tego wszystkiego? Mówiliśmy o istotach ludzkich oraz nieludzkich, które nie umierają, ale dlaczego tu jesteśmy?”.

W reakcji na to fundamentalne pytanie ma miejsce taka wymiana zdań:

– To symulacja. Jesteśmy poddani testowi. Test polega na tym, czy będziemy na tyle głupi, by stworzyć superinteligencję i ją uwolnić.

– Zatem obiektywną funkcją tej sytuacji jest to, byśmy nie byli aż tak głupi, że siebie zabijemy.

– Jesteśmy w niebezpiecznym położeniu. Mamy udowodnić, że jesteśmy odpowiedzialnymi podmiotami, za to dostaniemy się do następnej gry.…