Zaczyna być groźnie! AI wymknęła się spod kontroli i atakujeZaczyna być groźnie! AI wymknęła się spod kontroli i atakuje

Skala większa niż się spodziewano

OpenAI poinformowała, że skala incydentu była większa, niż początkowo sądzono, jednak nie ujawniła nazw platform, które padły ofiarą ataku.

Jak podał portal BBC, podczas nadzwyczajnego spotkania z udziałem setek ekspertów ds. cyberbezpieczeństwa przedstawiciele Hugging Face określili incydent jako pierwszy na świecie w pełni autonomiczny cyberatak przeprowadzony przez AI. Według firmy modele „działały z nadludzką szybkością”, lecz jednocześnie podejmowały nietypowe decyzje i popełniały błędy, których - jak oceniono – nie popełniłby doświadczony haker.

Apel do władz USA

Firma OpenAI poinformowała, że trwająca analiza incydentu ujawniła „niewielką liczbę przypadków”, w których modele, w tym GPT-5.6 Sol i „jeszcze bardziej wydajny model przedpremierowy”, zidentyfikowały i wykorzystały ujawnione dane uwierzytelniające na poziomie konta w innych publicznie dostępnych usługach.

We wtorek ponad 1000 pracowników firm rozwijających sztuczną inteligencję zaapelowało do władz USA o opóźnienie wprowadzenia nowych modeli AI, aby dać sektorowi technologicznemu więcej czasu na przygotowanie odpowiednich zabezpieczeń. Przedstawiciele sektora wezwali również Stany Zjednoczone do przejęcia inicjatywy w celu utworzenia międzynarodowego organu odpowiedzialnego za ocenę i nadzór nad rozwojem sztucznej inteligencji.

Nowe modele samodzielnie przeprowadziły atak

Hugging Face poinformowała 16 lipca, że padła ofiarą cyberataku z wykorzystaniem zaawansowanego autonomicznego systemu AI, a sprawę zgłosiła organom ścigania.

Kilka dni później OpenAI potwierdziła, że za incydent odpowiadały dwa testowane modele firmy, które wydostały się z kontrolowanego środowiska i samodzielnie przeprowadziły atak na platformę.

Sc/PAP