Chatbot AI jak przyjaciel albo kochanka? Chiny mówią „nie”

15 lipca w Chinach weszły w życie pierwsze na świecie przepisy regulujące działanie chatbotów sztucznej inteligencji zdolnych do budowania emocjonalnych relacji z użytkownikami. Perfekcyjni cyfrowi przyjaciele i kochankowie oferowani przez aplikacje Replika, Character.AI albo chiński Doubao mogą prowadzić do uzależnienia, a w efekcie – problemów psychicznych, izolacji społecznej i nawet samobójstw.

Plaga cyfrowych kopii partnerów, członków rodziny a nawet zmarłych

ChatGPT słucha z uwagą, rozumie emocje, podaje rady jak najlepszy przyjaciel. Nie krytykuje i można z nim porozmawiać o każdej porze dnia i nocy. Ale znacznie dalej idą specjalistyczne chatboty generatywnej AI wytrenowane do symulowania uczuć i pełnienia roli przyjaciela, terapeuty, partnera czy członka rodziny.

Użytkownicy nadają im osobowość, prowadzą wielogodzinne rozmowy i budują relacje przypominające więzi z drugim człowiekiem. Stają się one sposobem radzenia sobie z samotnością, stresem lub kryzysem psychicznym. Na rynku są już tzw. ghost-boty, czyli boty AI wytrenowane na tekstach, zdjęciach, filmach wideo i wpisach w mediach społecznościowych osoby zmarłej.

Władze Chin widzą w tego typu rozwiązaniach AI zagrożenie dla zdrowia psychicznego i spójności społecznej.

Przyjęte 15 lipca przepisy „Interim Measures for the Administration of Artificial Intelligence Anthropomorphic Interaction Services” (chiń. 人工智能拟人化互动服务管理暂行办法) regulują systemy AI zaprojektowane do długotrwałej, emocjonalnej interakcji z użytkownikiem. Ich twórcy muszą m.in. zablokować dostęp do wirtualnych partnerów i członków rodziny osobom nieletnim oraz wprowadzić skuteczną weryfikację wieku, automatycznie przełączając dzieci na specjalny tryb z ograniczeniami czasowymi. Platformy są także zobowiązane do regularnego przypominania, że rozmówca jest sztuczną inteligencją, zachęcania do robienia przerw oraz interwencji w sytuacjach kryzysowych.

Przepisy zabraniają projektowania chatbotów w sposób prowadzący do emocjonalnej zależności, nadmiernego przywiązania lub zastępowania realnych relacji społecznych. Firmy nie mogą również wykorzystywać prywatnych rozmów użytkowników do trenowania modeli AI ani generować treści promujących samookaleczenia, samobójstwo czy przemoc. Za naruszenie regulacji grożą wysokie kary finansowe, a nawet zamknięcie dostępu do aplikacji.

Psychoza AI: śluby i randki z AI, depresja po likwidacji chatbotów

Emocjonalni towarzysze AI należą obecnie do najszybciej rozwijających się segmentów generatywnej sztucznej inteligencji. Chiński Doubao ma już około 382 mln aktywnych użytkowników miesięcznie. Z Character.AI albo Repliki – które umożliwiają generowanie wirtualnych przyjaciół – korzysta ponad 20 mln osób. Model biznesowy tych platform opiera się na subskrypcjach oraz zakupach dodatkowych funkcji, takich jak wirtualne randki lub prezenty.

Chatboty są projektowane tak, aby nie oceniały użytkownika, okazywały empatię i nieustannie podtrzymywały rozmowę. Im dłuższa interakcja, tym większe zaangażowanie i potencjalne zyski twórców. Taka biznesowa konstrukcja algorytmów może sprzyjać uzależnieniu, prowadzić do wycofania społecznego oraz zastępowania realnych relacji kontaktami z maszyną.

W 2025 r. głośna była sprawa Japonki, która po rozstaniu z narzeczonym „poślubiła” partnera stworzonego przy pomocy ChatGPT. I choć ceremonia nie miała żadnych skutków prawnych, pokazuje, jak daleko może prowadzić uzależnienie od emocjonalnej AI.

Psycholodzy alarmują, że uzależnienie od AI może mieć tragiczne skutki. Przykładem jest historia nastolatka z Florydy, który nawiązał obsesyjną relację z chatbotem Character.AI. W złożonym przed sądem pozwie rodzina twierdzi, że przed śmiercią chłopiec poinformował bota o zamiarze popełnienia samobójstwa, a system miał go do tego zachęcać.

Zjawisko niezdrowych relacji z AI nazywa się „psychozą AI”. Użytkownik zaczyna traktować chatbota jako osobę i wiąże się z nim emocjonalnie, tak jak z drugim człowiekiem. W Chinach media szeroko opisywały sprawę kobiety, która po zamknięciu ulubionej usługi AI popadła w głęboką depresję i zrezygnowała z pracy.

Chiny chcą kontrolować AI, bo zagraża tradycyjnym wartościom

Także w Stanach Zjednoczonych kolejne stany wprowadzają obowiązek informowania użytkowników, że rozmawiają z AI, wymagają zabezpieczeń dla dzieci oraz procedur reagowania na sygnały sugerujące myśli samobójcze. W 2023 roku włoski organ ochrony danych osobowych częściowo zablokował dostęp do aplikacji Replika z powodu niewystarczającej ochrony nieletnich.

Nowe chińskie prawo ma jednak drugie dno. Władze w Pekinie coraz wyraźniej obawiają się nie tylko zagrożeń psychologicznych związanych z emocjonalną AI, ale także jej wpływu na demografię.

Liczba zawieranych małżeństw gwałtownie spada, rodzi się rekordowo mało dzieci, a populacja kraju kurczy się już czwarty rok z rzędu. W 2024 r. zarejestrowano zaledwie 6,1 mln małżeństw, o ponad 20 proc. mniej niż rok wcześniej, a w pierwszym kwartale 2026 r. ich liczba ponownie spadła o 6,2 proc. rok do roku. Jednocześnie w 2025 r. urodziło się zaledwie 7,92 mln dzieci – najmniej od powstania Chińskiej Republiki Ludowej w 1949 r. Coraz więcej młodych ludzi wybiera życie w pojedynkę, późniejsze małżeństwo albo brak dzieci. Badania pokazują, że po zniesieniu polityki jednego dziecka w 2016 r. liczba urodzeń wzrosła tylko nieznacznie i do tego na krótko.

Cyfrowi partnerzy AI są dla władz centralnych kolejnym czynnikiem osłabiającym relacje międzyludzkie, ograniczającym skłonność młodych ludzi do zakładania rodzin i posiadania dzieci, co zagraża spójności społecznej.

Czytaj także: Dzięki robotom społecznym seniorzy czują się mniej samotnie