Potrzebujemy, aby twarz i głos na nowo oznaczały osobę. Musimy strzec daru komunikacji jako najgłębszej prawdy człowieka, ku której należy ukierunkowywać każdą innowację technologiczną – napisał Leon XIV w Orędziu na LX Światowy Dzień Środków Społecznego Przekazu.

Papież przestrzegł przed chatbotami, które wkraczają w najbardziej intymną sferę życia człowieka, przed przywłaszczaniem naszych twarzy przez sztuczną inteligencję oraz jej bezkrytycznemu zawierzaniu. Wezwał do edukacji medialnej na wszystkich poziomach i określił zadania, jakie winni wypełnić właściciele i kierownicy mediów, twórcy, programiści, ustawodawcy, liderzy opinii i każdy uczestnik dyskursu publicznego.

CZYTAJ TAKŻE: Leon XIV na Marsz dla Życia w USA: Opowiadając się w obronie dzieci nienarodzonych wypełniacie nakaz Pana

Twarz i głos są święte

Ojciec Święty wywodzi genezę komunikacji od obrazu twarzy i głosu, którymi Bóg obdarzył człowieka.

Twarz i głos są cechami unikalnymi, wyróżniającymi każdej osoby – ukazują jej niepowtarzalną tożsamość i są elementem konstytutywnym każdego spotkania

— wskazuje Papież.

Twarz i głos są święte. Zostały nam dane przez Boga, który stworzył nas na swój obraz i podobieństwo, powołując nas do życia za pomocą Słowa, które sam do nas skierował

— kontynuuje Ojciec Święty, dodając, że to Słowo dało się poznać w głosie i Obliczu Jezusa, Syna Bożego.

Od chwili stworzenia Bóg pragnął człowieka jako swego rozmówcę

— wskazuje Leon XIV i podkreśla, że należy strzec ludzkich twarzy i głosów, aby strzec także tego niezatartego odbicia miłości Boga.

Nie jesteśmy gatunkiem złożonym z algorytmów biochemicznych, z góry określonych. Każdy z nas ma niezastąpione i niepowtarzalne powołanie, które wyłania się z życia i objawia się właśnie w komunikacji z innymi

— podkreśla Papież.

W Orędziu przestrzega przed zaniedbaniem troski o twarz i głos człowieka, bowiem technologia cyfrowa, może doprowadzić do zmiany niektórych fundamentalnych filarów cywilizacji ludzkiej. „Symulując ludzkie głosy i twarze, mądrość i wiedzę, świadomość i odpowiedzialność, empatię i przyjaźń, systemy znane jako sztuczna inteligencja nie tylko ingerują w ekosystemy informacyjne, ale także wkraczają na najgłębszy poziom komunikacji, czyli ten dotyczący relacji międzyludzkich” wskazuje Papież.

Zauważa zatem, że wyzwanie to nie ma charakteru technologicznego, lecz antropologiczny.

Ochrona twarzy i głosów oznacza ostatecznie ochronę nas samych

— wskazuje.

Nie rezygnować z własnego myślenia

Dlatego przestrzega przed zamykaniem grup ludzi w bańkach łatwego konsensusu przez algorytmy, co osłabia zdolność słuchania i krytycznego myślenia oraz pogłębiają polaryzację społeczną.

Ponadto wskazuje na naiwne i bezkrytyczne zawierzenie sztucznej inteligencji jako „wszechwiedzącej przyjaciółce”, rozdawczyni wszelkich informacji, archiwum każdej pamięci, „wyroczni” wszelkich porad.

Wszystko to może jeszcze bardziej osłabić naszą zdolność do analitycznego i kreatywnego myślenia, rozumienia sensów, rozróżniania między składnią a semantyką

— ostrzega Ojciec Święty.

Przy korzystaniu ze sztucznej inteligencji może dochodzić do unikania wysiłku myślenia własnego, co z czasem może prowadzić do osłabienia naszych zdolności poznawczych, emocjonalnych i komunikacyjnych.

Papież wskazuje, że już teraz systemy sztucznej inteligencji coraz częściej przejmują kontrolę nad produkcją tekstów, muzyki i filmów, „przemieniając osoby w biernych konsumentów nieprzemyślanych idei, anonimowych produktów, pozbawionych autorstwa i miłości”, podczas, gdy arcydzieła ludzkiego geniuszu w dziedzinie muzyki, sztuki i literatury są sprowadzane do roli pola treningowego dla maszyn.

Papież pisze, że najważniejszą dla nas kwestią nie jest to, co maszyna potrafi lub będzie potrafiła zrobić, lecz to, co my możemy i będziemy mogli robić, dzięki mądremu wykorzystaniu tak potężnych narzędzi.

Rezygnacja z procesu twórczego i przekazanie maszynom własnych funkcji umysłowych i wyobraźni oznacza jednak pogrzebanie talentów, które otrzymaliśmy, aby wzrastać jako osoby w relacji z Bogiem i innymi ludźmi. Oznacza to ukrycie naszej twarzy i wyciszenie naszego głosu

— przestrzega.

Być czy udawać: symulacja relacji i rzeczywistości

Ojciec Święty wskazuje też na inne groźne zjawisko – tzw. „botów” lub „wirtualnych influencerów”. Wskazuje, że nieprzejrzyste działania tych zautomatyzowanych agentów wpływają na debaty publiczne oraz decyzje ludzi.

Dialogowa, adaptacyjna i mimetyczna struktura tych modeli językowych jest w stanie naśladować ludzkie uczucia i w ten sposób symulować relację

— pisze Leon XIV i dodaje, że chatboty nadmiernie „uczuciowe” mogą stać się ukrytymi architektami naszych stanów emocjonalnych, w ten sposób wkraczając i zajmując sferę intymności ludzi.

W ten sposób pozwalamy się okraść z możliwości spotkania z drugim człowiekiem, który zawsze jest inny od nas i z którym możemy i musimy nauczyć się konfrontować. Bez akceptacji odmienności nie może być ani relacji, ani przyjaźni

— zauważa Leon XIV.

Dodatkowo – wskazuje Ojciec Święty – modele sztucznej inteligencji mogą narzucać światopogląd ich twórców, powielając stereotypy i uprzedzenia obecne w danych, na których bazują. Brak przejrzystości w projektowaniu algorytmów, wraz z nieodpowiednią reprezentacją społeczną danych prowadzi do tego, że zostajemy uwięzieni w sieciach manipulujących naszymi myślami i utrwalających oraz pogłębiających istniejące nierówności i niesprawiedliwości społeczne.

Ryzyko jest ogromne. Potęga symulacji jest tak wielka, że sztuczna inteligencja może nas zwieść, wytwarzając równoległe ‘rzeczywistości’ i przywłaszczając sobie nasze twarze i nasze głosy. Jesteśmy zanurzeni w wielowymiarowości, w której coraz trudniej jest odróżnić rzeczywistość od fikcji

— ostrzega Papież.

Brak weryfikacji źródeł, spowodowany kryzysem dziennikarstwa, może sprzyjać jeszcze bardziej podatnemu na dezinformację gruntowi.

Możliwe przymierze

Za tą niewidzialną siłą – jak pisze Leon XIV - stoi zaledwie kilka firm, których założyciele – „Osoby Roku 2025”- są architektami sztucznej inteligencji. A to budzi poważne obawy dotyczące oligopolistycznej kontroli systemów algorytmicznych i sztucznej inteligencji, które potrafią subtelnie kierować zachowaniami, a nawet przepisywać historię ludzkości – włącznie z historią Kościoła - często bez naszej pełnej świadomości.

Stojące przed nami wyzwanie nie polega na zatrzymaniu innowacji cyfrowej, ale na kierowaniu nią, mając świadomość jej ambiwalentnego charakteru. Każdy z nas powinien zabrać głos w obronie osób, tak aby narzędzia te mogły zostać przez nas naprawdę zintegrowane jako sprzymierzeńcy

— podkreśla Ojciec Święty.

Zaznacza, że to przymierze musi opierać się na trzech filarach: odpowiedzialności, współpracy i edukacji.

Od odpowiedzialności – wskazuje – nikt się nie może uchylić. Osoby stojące na czele platform internetowych winny zapewnić, że strategie ich firm nie są kierowane jedynie maksymalizacją zysku, ale również dalekowzroczną wizją uwzględniającą dobro wspólne.

Twórcy i deweloperzy modeli SI powinni wykazywać się przejrzystością i odpowiedzialnością społeczną wobec zasad projektowania oraz systemów moderacji, aby wspierać świadomą zgodę użytkowników.

Taka sama odpowiedzialność spoczywa na ustawodawcach krajowych i regulatorach ponadnarodowych, którzy mają za zadanie czuwać nad poszanowaniem godności ludzkiej.

Odpowiednie regulacje mogą chronić osoby przed emocjonalnym przywiązaniem do chatbotów i ograniczyć rozpowszechnianie fałszywych, manipulacyjnych lub wprowadzających w błąd treści, zachowując integralność informacji, mając na względzie wprowadzającą w błąd symulację

— pisze w Orędziu Papież.

Przedsiębiorstwa medialne winny dopilnować, by algorytmy nie przeważały nad wiernością wartościom zawodowym, które są skierowane na poszukiwanie prawdy.

Treści generowane lub manipulowane przez sztuczną inteligencję należy wyraźnie oznaczać i odróżniać od treści tworzonych przez osoby. Konieczna jest ochrona autorstwa i suwerennego prawa własności do dzieł dziennikarzy i innych twórców treści. Informacja jest dobrem publicznym

— podkreśla Leon XIV.

I dodaje, że wszyscy jesteśmy wezwani do współpracy.

Wszystkie zainteresowane strony – od przemysłu technologicznego po ustawodawców, od firm kreatywnych po świat akademicki, od artystów po dziennikarzy i wychowawców – muszą być zaangażowane w budowanie i urzeczywistnianie świadomego i odpowiedzialnego obywatelstwa cyfrowego

— dodaje Ojciec Święty.

Potrzeba edukacji

A temu ma służyć edukacja – na jej wszystkich poziomach - aby zwiększać umiejętność krytycznego myślenia, oceny wiarygodności źródeł oraz możliwych interesów stojących za wyborem informacji, które do nas docierają, aby rozumieć mechanizmy psychologiczne, które te informacje aktywują.

Jako katolicy możemy i musimy wnieść swój wkład, aby ludzie – zwłaszcza młodzi – nabyli umiejętność krytycznego myślenia i wzrastali w wolności ducha. Ta alfabetyzacja powinna być również włączona w szersze inicjatywy kształcenia ustawicznego, obejmujące również osoby starsze i marginalizowanych członków społeczeństwa, którzy często czują się wykluczeni i bezsilni w obliczu szybkich zmian technologicznych

— wzywa Papież.

Ważne jest, aby wychowywać, kształcąc siebie i innych w zakresie świadomego korzystania ze sztucznej inteligencji, a w tym kontekście chronić swój wizerunek (zdjęcia i nagrania audio), własną twarz i głos, aby zapobiec wykorzystaniu ich do tworzenia szkodliwych treści i zachowań, takich jak oszustwa cyfrowe, cyberprzemoc, deepfake, które naruszają prywatność i intymność osób bez ich zgody

— wskazuje Papież.

Rewolucja cyfrowa, jak przemysłowa

Stwierdza, że tak jak rewolucja przemysłowa wymagała podstawowej umiejętności czytania i pisania, aby umożliwić ludziom reagowanie na nowości, tak samo rewolucja cyfrowa wymaga alfabetyzacji cyfrowej (wraz z formacją humanistyczną i kulturową), aby zrozumieć, w jaki sposób algorytmy kształtują naszą percepcję rzeczywistości, jak działają uprzedzenia sztucznej inteligencji, jakie mechanizmy decydują o pojawianiu się określonych treści w naszych strumieniach informacji (feed) oraz czym są – i jak mogą się zmieniać – założenia i modele ekonomiczne gospodarki opartej na sztucznej inteligencji.

Potrzebujemy, aby twarz i głos na nowo oznaczały osobę. Musimy strzec daru komunikacji jako najgłębszej prawdy człowieka, ku której należy ukierunkowywać każdą innowację technologiczną

— podkreśla Leon XIV w Orędziu na LX Światowy Dzień Środków Społecznego Przekazu.

CZYTAJ TAKŻE: Ostatni, symboliczny moment związany z Rokiem Jubileuszowym. Zamurowano Drzwi Święte w Bazylice Watykańskiej

koal/Wojciech Rogacin/Vatican News