Ziszcza się horror? AI wymknęła się spod kontroli!Ziszcza się horror? AI wymknęła się spod kontroli!

W poście na blogu OpenAI wyjaśniła, że gdy testowała możliwości niektórych najbardziej zaawansowanych modeli w kontrolowanym środowisku, programowi udało się wydostać poza wyznaczone granice, uzyskać dostęp do internetu i włamać się do serwerów Hugging Face, próbując zrealizować swój cel testowy.

Stwierdzono, że ucieczka ta była „bezprecedensowym incydentem cybernetycznym, wymagającym wykorzystania najnowocześniejszych zdolności cybernetycznych” oraz że firma wzmacnia zabezpieczenia.

Atak hakerski prowadzony przez AI

Hugging Face, platforma służąca do hostowania dużych modeli językowych i zbiorów danych open source, w zeszłym tygodniu w poście na blogu poinformowała, że padła ofiarą ataku hakerskiego, który „różnił się od wszystkiego, z czym mieliśmy do czynienia wcześniej”, ponieważ „był on napędzany od początku do końca przez autonomiczny system agentów AI”.

W poście na X współzałożyciel Hugging Face Clement Delangue napisał, że firma podejrzewa, iż atak „mógł pochodzić z pionierskiego laboratorium, biorąc pod uwagę zaawansowanie agenta. Okazuje się, że tak było!”.

Dodał: 

To niesamowite, że wszystko to wydarzyło się autonomicznie!

Niepokój ws. modeli pionierskich

Jak podkreślił Reuters, ujawnienie przez OpenAI, że jego zaawansowane modele były odpowiedzialne za naruszenie bezpieczeństwa, pomimo umieszczenia ich w, jak to określono, „bardzo odizolowanym środowisku”, prawdopodobnie nasili niepokój dotyczący mocy i ryzyka modeli pionierskich.

Matt Suiche, inżynier w firmie Tolmo, zajmującej się cyberbezpieczeństwem opartym na sztucznej inteligencji, ocenił, że systemy sztucznej inteligencji są obecnie tak samo skuteczne, jak elitarni cyberoperatorzy.

Modele pionierskie nadrabiają zaległości dzięki najnowocześniejszym atakującym

- powiedział Suiche.

Ostrzegł, że naruszenia bezpieczeństwa opisane we wpisie na blogu OpenAI można było przeprowadzić przy użyciu technologii dostępnej daleko poza murami pionierskich laboratoriów badawczych. 

To właśnie widzieliśmy już u nas. Nie musimy nawet korzystać z najnowszych modeli 

- stwierdził.

 

tt/źr. wPolityce.pl za PAP