Papież ostrzega przed AI jako nową „cyfrową wieżą Babel”

Sztuczna inteligencja może być narzędziem rozwoju ludzkości. Ale rozwijana nieodpowiedzialnie stanie się nową formą koncentracji władzy i wyzysku człowieka. W swojej pierwszej encyklice Magnifica Humanitas (Wielkość Człowieczeństwa). O trosce o osobę ludzką w dobie sztucznej inteligencji Leon XIV wzywa do ochrony godności w erze algorytmów.

• Papież Leon XIV ostrzega, że sztuczna inteligencja może prowadzić do dehumanizacji, jeśli człowiek zostanie sprowadzony do danych, wydajności i algorytmów.
• Encyklika podkreśla, że AI nie jest neutralna, ponieważ odzwierciedla interesy, wartości i cele tych, którzy ją projektują oraz kontrolują.
• Leon XIV wzywa do stworzenia nowych regulacji chroniących godność człowieka, prawa pracowników i dobro wspólne w erze cyfrowej.
• Papież sprzeciwia się „technokratycznemu” myśleniu, według którego technologia sama rozwiąże problemy społeczne, ekonomiczne i polityczne.
• Głównym przesłaniem encykliki jest apel, aby rozwój AI służył człowiekowi, wzmacniał solidarność i relacje społeczne, a nie budował „nowej wieży Babel”.

Przestroga przed jednym językiem cyfrowym i oceny człowieka miarą wydajności

W wydanej 25 maja encyklice, papież zwraca uwagę, że systemy sztucznej inteligencji coraz silniej wpływają na decyzje społeczne, gospodarcze i polityczne, a także na sposób, w jaki ludzie postrzegają rzeczywistość. Leon XIV zauważa, że współczesny rozwój AI odbywa się głównie pod kontrolą prywatnych globalnych korporacji technologicznych, których możliwości oddziaływania bywają większe niż potencjał wielu państw. To – jego zdaniem – tworzy nową formę władzy technologicznej, trudniejszą do kontrolowania niż tradycyjna władza polityczna.

Papież ostrzega również przed redukowaniem człowieka do zbioru danych. AI stwarza ryzyko stworzenia świata, w którym każda aktywność, emocja czy relacja będą analizowane wyłącznie pod kątem wydajności i przewidywalności. W encyklice pojawia się krytyka „jednego języka cyfrowego”, próbującego przełożyć całe ludzkie doświadczenie na dane i wskaźniki.

To właśnie w tym kontekście Leon XIV odwołuje się do biblijnej wieży Babel. AI symbolizuje cywilizację opartą na pysze technologicznej, uniformizacji i przekonaniu, że człowiek może samodzielnie stworzyć doskonały porządek społeczny bez odniesienia do wartości etycznych. Celem powinna być AI porównana do odbudowy Jerozolimy, czyli taka, która łączy ludzi.

Papież podkreśla, że największym zagrożeniem jest utrata zdolności do krytycznego myślenia o konsekwencjach AI. W encyklice pojawia się ostrzeżenie przed społeczeństwem, które przyzwyczaja się do życia w permanentnym kryzysie technologicznym i oddaje decyzje dotyczące przyszłości w ręce wąskiej grupy ekspertów oraz właścicieli platform cyfrowych. Leon XIV pisze, że ludzkość stoi dziś przed pytaniami o kierunek rozwoju cywilizacji i nie może już dłużej unikać odpowiedzi na pytanie: „dokąd zmierzamy” jako wspólnota ludzi.

Technologia nie może dyskryminować i wykluczać

Papież nie krytykuje AI ani technologii. Podkreśla, że AI może wspierać rozwój wielu obszarów życia człowieka, takich jak medycyna, edukacja, komunikacja oraz ochrona środowiska. Problem pojawia się wtedy, gdy technologia zaczyna zastępować relacje społeczne i prowadzi do dehumanizacji.

Leon XIV wielokrotnie wraca do pojęcia „godności osoby”. Według niego postęp technologiczny nie może być oceniany wyłącznie przez pryzmat innowacyjności czy wzrostu gospodarczego, ale przede wszystkim przez wpływ na życie ludzi, szczególnie tych najbardziej narażonych na wykluczenie i słabszych.

Nowe technologie mogą pogłębiać nierówności społeczne i ekonomiczne, co jest jednym z największych zagrożeń dla ludzkości. Z jednej strony część społeczeństwa korzysta z coraz bardziej zaawansowanych narzędzi cyfrowych, z drugiej powiększa się grupa osób pozbawionych dostępu do edukacji cyfrowej, stabilnej pracy czy ochrony socjalnej.

Dużo uwagi encyklika poświęca wątkowi pracy. Leon XIV nawiązuje do wcześniejszego nauczania społecznego Kościoła i przypomina, że praca nie może być traktowana wyłącznie jako element systemu produkcyjnego. W kontekście automatyzacji i AI ostrzega przed sytuacją, w której człowiek zostanie sprowadzony do „kosztu operacyjnego”, a decyzje dotyczące zatrudnienia będą podejmowane wyłącznie na podstawie algorytmicznej efektywności.

„Odkrycia naukowe są talentem powierzonym ludzkości po to, aby mogła z niego czerpać korzyści (por. Mt 25, 14–30). Technologia może leczyć, łączyć, wychowywać, strzec wspólnego domu; może jednak także dzielić, odrzucać i rodzić nowe niesprawiedliwości. W ujęciu abstrakcyjnym sama w sobie nie stanowi ona rozwiązania problemów ludzkości, tak jak sama w sobie nie jest złem; konkretnie rzecz ujmując, nie jest jednak neutralna, ponieważ przyjmuje ona oblicze tych, którzy ją projektują, finansują, regulują i wykorzystują. Dlatego pierwszym wyborem nie jest wybór między „tak” a „nie” dla technologii, lecz między budowaniem wieży Babel a odbudową Jerozolimy: między władzą, która rości sobie pretensję do panowania nad niebem, a ludem, który – w obecności Boga – podejmuje zgodnie pracę nad odbudową murów braterskiego współistnienia.”

Pojawia się też apel o odpowiedzialne projektowanie systemów AI. Papież podkreśla znaczenie oceny wpływu technologii na społeczeństwo, transparentności algorytmów oraz ochrony osób najbardziej podatnych na dyskryminację cyfrową.

Leon XIV pisze, że współczesna kultura technologiczna coraz częściej obiecuje eliminację ograniczeń człowieka, a nawet przekroczenie jego biologicznych i psychicznych słabości. Papież ostrzega jednak przed wizją świata, w którym człowieczeństwo byłoby mierzone wyłącznie produktywnością, wydajnością i możliwością „ulepszania” człowieka za pomocą technologii. Jego zdaniem prawdziwy rozwój polega nie na eliminowaniu ludzkich słabości, lecz na budowaniu solidarności, odpowiedzialności i wzajemnej troski.

Same regulacje to za mało, aby zapobiec niebezpieczeństwom AI

Według papieża, AI wymaga nowych ram prawnych. W dokumencie pojawia się wezwanie do tworzenia „narzędzi normatywnych”, które będą chronić sprawiedliwość społeczną i ograniczać nadużycia związane z koncentracją technologicznej władzy.

Jednocześnie papież zaznacza, że same regulacje nie wystarczą. Potrzebna jest szeroka współpraca między naukowcami, przedsiębiorcami, politykami, organizacjami życia społecznego i obywatelami. W encyklice pojawia się koncepcja „współodpowiedzialności”, zgodnie z którą wszystkie grupy społeczne powinny uczestniczyć w kształtowaniu przyszłości cyfrowej.

Papież zwraca także uwagę na konieczność rozwoju edukacji cyfrowej. Jego zdaniem społeczeństwa muszą nauczyć się korzystania z AI oraz rozumienia jej wpływu na demokrację, relacje społeczne i prawa człowieka. Pojawia się też krytyka „paradygmatu technokratycznego”, czyli przekonania, że każdy problem społeczny można rozwiązać za pomocą technologii. Leon XIV podkreśla, że algorytmy nie zastąpią odpowiedzialności moralnej, solidarności i troski o słabszych.

Dlatego pojawia się apel o większą transparentność procesów decyzyjnych związanych z AI. Społeczeństwa demokratyczne nie mogą pozwolić, aby kluczowe decyzje dotyczące zdrowia, pracy, bezpieczeństwa czy edukacji były podejmowane przez nieprzejrzyste algorytmy działające poza społeczną kontrolą. Rozwój technologiczny powinien podlegać ocenie ekonomicznej, ale również moralnej i społecznej.

„Korzystanie z AI nigdy nie jest faktem czysto technicznym: kiedy wkracza ona w procesy oddziałujące na życie ludzi, dotyka praw, szans, reputacji i wolności. Delikatne decyzje dotyczące pracy, kredytu, dostępu do usług i reputacji osób mogą zostać powierzone całkowicie systemom zautomatyzowanym, które nie znają „współczucia, miłosierdzia, przebaczenia, a nade wszystko otwartości na nadzieję przemiany osoby” i w ten sposób mogą rodzić nowe formy wykluczenia. Mogą istnieć zastosowania w oczywisty sposób antyludzkie, jak manipulowanie informacją czy naruszanie prywatności, ale może istnieć także pułapka mniej jawna, gdy systemy AI, przedstawiając się jako neutralne i obiektywne, odzwierciedlają i umacniają stereotypy lub stanowiska ideologiczne tych, którzy je zaprojektowali i wytrenowali.”

Papież apeluje, aby w epoce algorytmów chronić wartości człowieka

Końcowym przesłaniem encykliki jest wezwanie do „pozostania ludźmi” w epoce sztucznej inteligencji. Papież ostrzega przed światem, w którym relacje międzyludzkie zostaną zastąpione przez automatyzację, a człowiek utraci zdolność słuchania, empatii i odpowiedzialności za innych.

Prawdziwy rozwój cywilizacyjny powinien opierać się na jakości relacji społecznych oraz zdolności do budowania wspólnoty. Przyszłość AI będzie zależeć od tego, czy człowiek pozostanie w centrum podejmowania decyzji, czy stanie się jedynie elementem cyfrowego systemu zarządzania.

Papież apeluje o budowę świata opartego na solidarności, sprawiedliwości i dialogu. To człowiek ma sobie podporządkować technologię, a nie na odwrót.

Leon XIV zwraca uwagę, że największym wyzwaniem ery AI może okazać się stopniowe osłabienie zdolności człowieka do budowania więzi i odpowiedzialności za innych. Dlatego wzywa do odbudowy kultury dialogu, współpracy i „słuchania drugiego człowieka”, które mają stać się przeciwwagą dla cyfrowej izolacji i logiki permanentnej rywalizacji. Według papieża technologia może wspierać rozwój społeczeństw tylko wtedy, gdy pozostanie zakorzeniona w wartościach humanistycznych i będzie wzmacniać, a nie zastępować człowieczeństwo.

Czytaj: Encyklika Magnifica Humanitas Ojca Świętego Leona XIV o trosce o osobę ludzką w dobie AI