Indonezja zablokowała dostęp do chatboxa Grok. Robi to pierwsza na świecie. Powodem tworzenie materiałów pornograficznych

Władze w Dżakarcie tymczasowo zablokowały 10 stycznia dostęp do chatbota Grok, stworzonego przez firmę xAI, należącą do miliardera Elona Muska. Indonezja jest pierwszym państwem na świecie, które zdecydowało się na ten krok w związku z ryzykiem generowania przez sztuczną inteligencję materiałów o treści pornograficznej.

Rząd postrzega praktykę (tworzenia) nielegalnych deepfake’ów o charakterze seksualnym jako poważne naruszenie praw człowieka, godności i bezpieczeństwa obywateli w przestrzeni cyfrowej

— oświadczyła ministra komunikacji i cyfryzacji Indonezji Meutya Hafid w wydanym komunikacie.

Deepfake to zdjęcie lub obraz stworzony przez sztuczną inteligencję, na którym wizerunek prawdziwej osoby został cyfrowo zmodyfikowany lub umieszczony w nowym, fałszywym kontekście.

Resort wezwał już przedstawicieli platformy X do „niezwłocznego przedstawienia wyjaśnień dotyczących negatywnych skutków korzystania z (chatbota) Grok” - przekazał portal Kompas.

Firma xAI poinformowała wcześniej o ograniczeniu możliwości generowania obrazów i udostępnieniu tej usługi wyłącznie płatnym subskrybentom. Była to reakcja na błędy w zabezpieczeniach, które pozwalały na tworzenie grafik przedstawiających m.in. skąpo ubrane dzieci.

Polityka Indonezji

Indonezja, będąca krajem o największej populacji muzułmańskiej na świecie, słynie z surowego prawa dotyczącego cenzury internetowej.

Przepisy te bezwzględnie zakazują rozpowszechniania materiałów uznawanych za obsceniczne. Działania Dżakarty wpisują się w szerszy trend, w ramach którego regulatorzy z Europy i Azji wszczynają dochodzenia w sprawie seksualizowanych treści w aplikacjach AI.