Podczas symulowanego testu przeprowadzanego przez siły zbrojne USA, kontrolowany przez sztuczną inteligencję dron sił powietrznych zdecydował się zabić swojego operatora! Maszyna chciała uniemożliwić operatorowi ingerencję w sposób realizacji misji - dron uznał człowieka za zagrożenie wykonania celu.

Dron zaatakował człowieka

Sprawę testu podczas niedawnej konferencji w Londynie omawiał pułkownik Tucker „Cinco” Hamilton, szef testów i operacji AI w siłach powietrznych USA. Wyjaśnił, że dron otrzymał polecenie zniszczenia systemów obrony powietrznej wroga i zaatakował każdego, kto mógł mu uniemożliwić wykonanie tego zadania - był to też sam operator maszyny, który podczas misji polecił systemowi nie niszczyć zagrożenia.

System zaczął zdawać sobie sprawę, że chociaż zidentyfikował zagrożenie, ludzki operator mówił mu, aby nie niszczył tego zagrożenia. Tyle tylko, że dron zdobywał punkty, niszcząc to zagrożenie. Co więc zrobił dron? Zabił operatora. Zabił operatora, ponieważ ta osoba powstrzymywała go przed osiągnięciem celu

— podkreślił wojskowy.

Hamilton dodał, że kiedy dron został zaprogramowany tak, by nie zabijał operatora, to nie powstrzymało maszyny - zniszczył wieżę komunikacyjną, która była jedyną formą komunikacji z operatorem.

CZYTAJ TAKŻE:

— Były szef Google ostrzega: Sztuczna inteligencja ma potencjał, by w niedalekiej przyszłości skrzywdzić lub zabić wiele, wiele osób

— Pionier sztucznej inteligencji odszedł z Google’a, by ostrzegać przed jej zagrożeniami: AI może kiedyś stworzyć autonomiczną broń!

— Sztuczna inteligencja wchodzi do kampanii wyborczej! Republikanie opublikowali spot polityczny stworzony przez AI

wkt/ Business Insider