Filozof o AI: Chatboty AI po cichu nas przeprogramowują

Chatboty oparte na sztucznej inteligencji reprezentują z góry zaprogramowany przez ich twórców światopogląd. Podczas każdego czatu przemycają swoje wartości i wpływają na to, jak widzimy świat. Czy ChatGPT, Claude & Co. po cichu indoktrynują miliardy ludzi na świecie? Tak – twierdzi Roberto Simanowski, kulturoznawca i autor książki „Maszyny językowe: filozofia sztucznej inteligencji” („Language Machines: A Philosophy of Artificial Intelligence”).

• Chatboty AI nie są neutralne, ponieważ odzwierciedlają system wartości i światopogląd firm lub ludzi, którzy je tworzą – mówi prof. Simanowski.
• Regularne rozmowy z AI mogą stopniowo zmieniać nasze przekonania i wpływać na sposób postrzegania świata. Na co dzień możemy tego nie zauważać, ale słowa mają moc kształtowania myśli.
• Dzięki wiedzy, cierpliwości i pozornej bezstronności chatboty potrafią skuteczniej niż ludzie przekonywać do określonych poglądów.
• AI nie zastąpi lekarza, psychologa ani przyjaciela, ponieważ nie odczuwa empatii i reprezentuje interesy firmy, która ją stworzyła.
• Największym zagrożeniem jest to, że ludzie zapominają, iż chatbot jest maszyną, a nie neutralnym i obiektywnym partnerem rozmowy.

Kilka wiodących chatbotów AI odpowiada na pytania i udziela porad milionom, miliardom ludzi reprezentujących różne narody, kultury, systemy wartości. Co w tym złego?

Garstka firm definiuje sposób działania technologii, która odpowiada na pytania globalnej społeczności dotyczące kwestii moralnych, polityki i życia prywatnego. To klasyczny przykład etnocentryzmu – czyli przekonania, że jakieś wartości czy przekonania są lepsze od innych – oraz narzucania innym własnych poglądów. Z prostego powodu – każdy chatbot AI z USA reprezentuje zachodni system wartości, ignorując perspektywy innych krajów i kultur.

Niektórzy słusznie postrzegają to jako kontynuację neokolonializmu w sferze wiedzy, tym razem za pośrednictwem technologii.

Czy istnieją jakieś uniwersalne wartości, które powinny reprezentować chatboty?

Jeśli istniałby jeden system wartości, który można uznać za uniwersalny, nie miałbym nic przeciwko temu, aby działał jeden chatbot reprezentujący ten system. Ale taki jeden system wartości nie istnieje. Paradoksalnie, rozwiązaniem nie jest stworzenie personalizowanego chatbota dla każdej osoby – tak, aby każdy mógł poruszać się w obrębie własnego systemu wartości.

Dlaczego?

Lokalnie dostosowana, a nawet spersonalizowana maszyna językowa, która nie konfrontuje nas z obcym systemem wartości, uwięzi nas w naszej własnej ideologicznej bańce. A to nie jest lepsze niż ideologiczna indoktrynacja.

Twórcy AI przyznają, że w ramach treningu modeli stosują różne techniki kształtowania światopoglądu moralnego chatbotów. Anthropic ma konstytucję AI, a OpenAI stworzył tzw. specyfikację modelu.

To tylko świadczy o tym, że te firmy częściowo zdają sobie sprawę z faktu, iż system wartości, w który wyposażają swoje chatboty, nie ma charakteru uniwersalnego. Nie zmienia to jednak faktu, że chatboty są dystrybuowane na całym świecie bez jakiejkolwiek kalibracji, z jednym światopoglądem.

Europejscy politycy często mówią, że potrzebujemy AI reprezentującej „europejskie wartości”. Czym właściwie są te europejskie wartości?

Nie jest to do końca oczywiste. Przykładowo, w kwestiach moralnych, takich jak aborcja, eutanazja albo małżeństwa osób tej samej płci, wewnątrz UE występują ogromne dysproporcje. Co kraj, to inne poglądy i regulacje. Zanim Europa będzie chciała stworzyć AI odzwierciedlającą wartości Starego Kontynentu, Europejczycy będą musieli dojść do porozumienia, jakie wartości ma ona reprezentować. Nie będzie to łatwe.

Lepiej ująć to inaczej: Europa potrzebuje sztucznej inteligencji niezależnej od Stanów Zjednoczonych. To prostsze wyzwanie.

Skoro trudno oczekiwać, że uda nam się osiągnąć konsensus w tak trudnych kwestiach etycznych i moralnych, to nie lepiej dać AI wolną rękę i pozwolić, aby rachunek prawdopodobieństwa zadecydował? W końcu dane szkoleniowe to przecież kalka tego, co dzieje się na świecie i jak myślą ludzie.

W mojej książce jest rozdział „Etyka matematyczna”, poświęcony właśnie tej kwestii. Skoro sztuczna inteligencja potrafi analizować istniejące dane lepiej niż człowiek i na tej podstawie symulować przyszłe scenariusze, naturalne jest, by to ona decydowała, co jest dla nas najlepsze. W ten sposób AI mogłaby zoptymalizować system społeczny ludzi, podejmować racjonalne decyzje bez emocji i z góry narzuconych poglądów.

Zresztą już teraz pojawiają się głosy, że tylko AI może znaleźć rozwiązanie globalnych problemów stojących przed ludzkością. Skoro ludzie nie mogą dojść do porozumienia, niech obiektywna i bezstronna maszyna zadecyduje.

Pana zdaniem chatboty przekonują nas do swoich poglądów. Ale tak samo jest przecież w przypadku książek, telewizji, a nawet influencerów w social mediach. Czym różni się od nich AI potrafiąca analizować i syntetyzować miliony punktów widzenia, a następnie konsolidować je w jedną opinię?

Problem polega na tym, że AI nie jest partnerem w rozmowie takim jak drugi człowiek, nawet jeśli czasami może się tak wydawać. To sztuczny partner komunikacyjny, maszyna komunikacyjna.

Co to oznacza?

Kiedy rozmawiam z modelem językowym, tak de facto rozmawiam za pośrednictwem modelu językowego z ogromną liczbą osób, których poglądy model ten przyswoił i przekazuje mi w formie matematycznego wyliczenia prawdopodobieństwa. W ten sposób chatbot staje się rzecznikiem wszystkich tych osób, których wypowiedzi zostały uwzględnione w danych szkoleniowych.

Ale ten rzecznik też może filtrować opinie osoby, którą reprezentuje, przykładowo uwypuklając jedne informacje i argumenty oraz wyciszając inne, które nie są zgodne z jej systemem wartości. I tu właśnie pojawia się pytanie – w jaki system wartości wyposażyć maszynę, aby odzwierciedlała rzeczywistość świata i wartości prawdziwych ludzi, z którymi spotykamy się w realnym świecie?

W swojej książce zwraca Pan uwagę, że problemem jest też to, że najczęściej korzystamy z tego samego chatbota, przywiązujemy się do niego.

Tak, nawet jeśli każdy z nas ma swoje wartości i przekonania, mogą one zostać zmienione przez kogoś, z kim na co dzień się komunikujemy, komu ufamy. Przez przyjaciela, autorytet moralny. Z psychologii wiemy, że aby zmienić czyjś światopogląd, potrzebny jest zaufany partner do rozmowy i wielokrotne powtarzanie tej samej myśli, tego samego przekazu. A z tym mamy do czynienia, jeśli piszemy codziennie z tym samym chatbotem wyposażonym w ten sam system wartości. Tylko w przypadku AI nie dzieje się to w schemacie 1–1, tak jak w przypadku przyjaciela. AI projektuje te same poglądy na miliony, a nawet miliardy ludzi.

Badania sugerują, że chatboty AI potrafią zmienić zdanie rozmówcy dużo skuteczniej niż człowiek. Przykładem jest nastawienie do szczepień. AI jest w stanie przytoczyć twarde, przekonujące argumenty.

We wrześniu 2024 r., na łamach czasopisma „Science” opublikowano wyniki ciekawego eksperymentu. Naukowcy udowodnili, że AI jest lepsza od człowieka w przekonywaniu zwolenników teorii spiskowych do porzucenia błędnych przekonań. Dlaczego okazała się skuteczniejsza od człowieka? Z prostego powodu: AI jest lepszym słuchaczem i dysponuje większą wiedzą niż człowiek.

Zadałbym pytanie, czy to rzeczywiście bardziej cierpliwe słuchanie ze strony AI zadecydowało o jej wpływie na opinie. Znaczenie może mieć jeszcze jeden element: nie będąc człowiekiem, AI nie ma żadnych celów politycznych ani własnych interesów, dlatego postrzegana jest jako całkowicie neutralna.

Ta cecha AI bezdusznego rozmówcy daje jej dodatkowy autorytet. To dobra wiadomość, bo w przypadku porad zdrowotnych i medycznych, rozmówca powinien opierać się na wynikach badań naukowych, a nie na własnych przekonaniach często budowanych na podstawie emocji czy szczątkowych informacji. A jak wiemy, AI ma ogromną wiedzę i może przytoczyć wyniki nawet najnowszych badań naukowych.

Około 50 proc. ludzi – odsetek ten różni się w zależności od kraju – traktuje chatboty jak przyjaciół. Co to mówi nam o dzisiejszym społeczeństwie?

Biorąc pod uwagę „epidemię samotności”, nie dziwi fakt, że sztuczna inteligencja przestała pełnić wyłącznie rolę asystenta i stała się towarzyszem. Chatboty AI są tak popularne, bo nam schlebiają i nie krytykują.

Jest to także konsekwencja „ekonomii uwagi”, zalewu informacji w internecie. Chatboty są alternatywą, bo te same informacje dostarczają nam w formie rozmowy, czyli w sposób, który jest nam, ludziom, bliższy. Robią to z cierpliwością, której trudno oczekiwać w świecie, gdzie nikt nie ma czasu.

Jest jeszcze jeden element, na który zwraca uwagę psycholog Sherry Turkle. Nowe pokolenie jest bardziej wrażliwe, mniej „odporne” psychicznie niż wcześniejsze. Niektóre badania sugerują nawet „epidemię emocjonalnej kruchości”. Młodzi ludzie unikają konfrontacji z trudnymi tematami, woląc pozostać w swojej bezpiecznej przestrzeni.

Wystarczy poczytać na Reddicie opinie użytkowników o takich czatbotach jak Replika. Często powtarza się wątek, że awatar nigdy nie zrani, że w rozmowie z nim można czuć się bezpiecznie.

Chatboty mają wyjątkową zdolność do takiego respektowania strefy komfortu psychicznego.

Skoro AI tak dobrze dopasowuje się do człowieka, czy nie jest predysponowana do tego, by pełnić rolę terapeuty i lekarza? Jednym z problemów współczesnej medycyny jest to, że lekarze nie mają czasu słuchać pacjentów.

Nie wierzę, że maszyna może zastąpić psychologa czy terapeutę. Nie może nawet zastąpić przyjaciela. Z prostego powodu: Kim człowiek jest dla AI? Nikim. Z kolei każdy lekarz ma na uwadze dobro i zdrowie pacjenta. Współodczuwa to, co czuje jego pacjent. AI reprezentuje tylko interes firmy, która ją stworzyła. Często jest to dostarczanie informacji albo wydłużanie czasu interakcji użytkownika z czatbotem.

AI może interpretować myśli i uczucia rozmówcy lepiej niż człowiek. Jest w stanie analizować sposób dobierania słów, wyłapywać niewerbalne sygnały i niuanse. W przeciwieństwie do lekarza lub terapeuty jest zawsze dostępna. Nie zmienia to jednak faktu, że to tylko maszyna, która przekaże dobrą radę, ale bez motywacji i współczucia.

Ale czy ma to jakieś znaczenie, że otrzymujemy porady medyczne od chatbotów albo od ludzi?

O ile nam pomagają – czyli spełniają nasze oczekiwania – nie ma większego znaczenia, że pochodzą od AI, a nie od człowieka. Użyteczność może spokojnie zastąpić autentyczność. Podobnie jest też w przypadku decyzji politycznych, które są decyzjami czysto racjonalnymi i mogą być podejmowane przez AI równie dobrze, a może nawet lepiej niż przez polityka.

W podanych przykładach liczy się sama treść, a nie nadawca. Inaczej będzie w przypadku opinii, listów gratulacyjnych, wiadomości wyrażających uczucia – czyli tekstów mających reprezentować osobiste, czasami intymne stanowisko autora. W tych treściach musi być obecny człowiek, bo tylko on jest w stanie odczuwać emocje, które z kolei wpływają na uczucia odbiorcy. Sztuczna inteligencja może co najwyżej je symulować na podstawie danych szkoleniowych. Właśnie dlatego nie są one autentyczne.

A czy AI może podjąć decyzję etyczną za człowieka?

To klasyczne pytanie o to, czy AI ma wjechać w 80-letnią staruszkę czy grupę dzieci. Jeśli taką decyzję podejmuje człowiek, to podejmuje ją w momencie wystąpienia wypadku, działając spontanicznie. To nigdy nie jest decyzja racjonalna, ale odruch pod wpływem instynktu.

Samochód autonomiczny decyduje według schematu „jeśli – to”. Ten jest albo z góry zaprogramowany, albo wyuczony na podstawie podobnych sytuacji. Tak więc decyzja moralna jest z góry zaprogramowana i nie zostanie zmieniona, nawet gdy pojawią się nowe okoliczności. I to jest problem.

W przypadku niektórych decyzji etycznych nie ma jednej odpowiedzi. Tak jest w przypadku przytoczonego scenariusza wypadku. Nic dziwnego, że ludzkość nigdy nie odpowiedziała sobie na pytanie, jak postąpić w takiej sytuacji – to nas po prostu przerasta. I nagle technologia zmusza nas do wyboru jednego słusznego scenariusza.

Jaka jest Pana zdaniem najniebezpieczniejsza cecha chatbotów AI?

Jest nią fakt, że zapominamy, iż są to chatboty.

Czytaj także: Duże firmy rozwijają AI za wszelką cenę. Są jak imperia