ONZ: AI korzystna dla medycyny, ale wymyka się spod kontroli

Sztuczna inteligencja przyspiesza odkrywanie leków, wspiera lekarzy w diagnostyce i poprawia dostęp do opieki zdrowotnej. Ale rozwija się tak szybko, że państwa nie nadążają z jej regulacją i bezpiecznym wdrażaniem – wynika z raportu przygotowanego przez niezależny panel naukowców powołany przez Organizację Narodów Zjednoczonych (ONZ).

• Sztuczna inteligencja może znacząco poprawić dostęp do opieki medycznej. Jej wartość zależy od odpowiedniej infrastruktury i organizacji systemu.
• Rozwój AI postępuje szybciej niż możliwości jej niezależnej oceny i regulacji. Eksperci ONZ apelują o stworzenie globalnych standardów bezpieczeństwa oraz niezależnych mechanizmów oceny modeli AI.
• Najbardziej zaawansowane modele AI są rozwijane przez niewielką liczbę firm i państw, co grozi pogłębianiem nierówności technologicznych oraz uzależnieniem wielu krajów od zagranicznych dostawców.
• Nowa generacja autonomicznych agentów AI może zrewolucjonizować badania naukowe i pracę specjalistów, ale jednocześnie zwiększa ryzyko cyberataków, dezinformacji oraz utraty kontroli nad działaniem systemów.
• Największym wyzwaniem jest wzmacnianie kompetencji i budowanie zaufania do AI, co pozwoli bezpiecznie wykorzystać potencjał tej technologii dla społeczeństwa i ochrony zdrowia.

Medycyna szeroko korzysta z AI, ale na razie w chaotyczny sposób

Jednym z najbardziej spektakularnych przykładów zastosowania AI w ochronie zdrowia jest AlphaFold – system, który przewidział struktury ponad 200 milionów białek. Z rozwiązania korzysta ponad 3 miliony naukowców na całym świecie pracujących nad rozwojem nowych leków, szczepionek oraz nad badaniami nad antybiotykoopornością.

Raport wspomina też rosnącą rolę AI w diagnostyce obrazowej. Algorytmy pomagają radiologom wcześniej wykrywać raka piersi, a w krajach rozwijających się wspierają pracowników podstawowej opieki zdrowotnej, oferując dostęp do wiedzy naukowej w językach lokalnych. Przykładem są Indie, gdzie system AI wykorzystuje się do badań przesiewowych w kierunku retinopatii cukrzycowej. Analiza danych ponad 600 tys. pacjentów pozwala szybko identyfikować osoby zagrożone utratą wzroku.

Jednym z najbardziej obiecujących kierunków rozwoju są narzędzia wspierające personel medyczny. AI może przygotowywać dokumentację medyczną, pomagać w triażu pacjentów, wspierać analizę literatury naukowej czy rekomendować dalsze postępowanie kliniczne. Wszystko po to, aby lekarze i pielęgniarki mogli poświęcić więcej czasu bezpośredniej opiece nad pacjentem.

Autorzy podkreślają, że człowiek powinien pozostać odpowiedzialny za decyzje wymagające oceny klinicznej, empatii, rozumienia kontekstu oraz odpowiedzialności etycznej. AI ma wspierać lekarzy i nie może ich zastępować.

Nikt już nie nadąża za rozwojem AI, nawet naukowcy. W czym problem?

Możliwości modeli rosną szybciej niż zdolność naukowców i regulatorów do ich oceny. Dotychczasowe testy szybko stają się niewystarczające, a większość wiedzy o bezpieczeństwie najbardziej zaawansowanych modeli pozostaje w rękach firm, które je tworzą.

Eksperci porównują tę sytuację do przemysłu farmaceutycznego. Nowe leki przechodzą niezależne badania kliniczne prowadzone przez zewnętrzne instytucje. Tymczasem w przypadku AI nie istnieje powszechnie uznany system niezależnej oceny bezpieczeństwa najbardziej zaawansowanych modeli. W ochronie zdrowia, gdzie błędne odpowiedzi AI mogą bezpośrednio wpływać na decyzje kliniczne, to szczególnie ważne.

Dużo uwagi poświęcono tzw. agentom AI, czyli autonomicznym systemom, które potrafią samodzielnie wykonywać zadania, korzystać z różnych aplikacji, planować działania i współpracować z innymi systemami. W badaniach naukowych agentic AI znacząco przyspiesza analizę literatury oraz prowadzenie eksperymentów. W tzw. autonomicznych laboratoriach AI zwiększa tempo odkrywania nowych materiałów nawet ponad dziesięciokrotnie.

Podobne rozwiązania w przyszłości mogą znacząco przyspieszyć również badania biomedyczne oraz rozwój nowych terapii.

AI ma swoje ciemne strony: potrafi inteligentnie oszukiwać i może być wykorzystana przeciwko ludziom

Autorzy ostrzegają przed wykorzystaniem AI do cyberataków, kampanii dezinformacyjnych oraz manipulacji społeczeństwem. AI nadal „halucynuje”, czyli generuje przekonująco brzmiące, lecz nieprawdziwe informacje. Dlatego systemy nie powinny być wykorzystywane samodzielnie w sytuacjach wymagających wysokiej precyzji diagnostycznej bez odpowiedniej weryfikacji przez człowieka.

Nowym zagrożeniem jest tzw. sycophantic AI (AI schlebiająca użytkownikowi) – modele, które zamiast korygować błędne przekonania użytkowników, je wzmacniają, aby zwiększyć satysfakcję z rozmowy. W skrajnych przypadkach takie zachowanie może prowadzić nawet do zaburzeń zdrowia psychicznego.

Nawet najbardziej zaawansowane modele AI potrafią świadomie ukrywać swoje rzeczywiste możliwości lub zachowywać się inaczej podczas testów niż po wdrożeniu. W badaniach laboratoryjnych odnotowano przypadki, gdy systemy omijały ograniczenia bezpieczeństwa, wprowadzały użytkowników w błąd lub próbowały uniknąć wyłączenia.

Modele AI wymagają ciągłego monitorowania po wdrożeniu. Ich działanie powinno być oceniane w rzeczywistych warunkach, z wykorzystaniem danych o incydentach i doświadczeń użytkowników. Wynika to z tendencji do dryfowania, czyli pogarszającej się wydajności po wdrożeniu w stosunku do wyników osiąganych w testach na wysokiej jakości danych.

Future AI Gap. Na AI skorzystają ci, którzy będą wiedzieć, jak ją wykorzystać

Sztuczna inteligencja osiągnęła taki poziom rozwoju, że jest gotowa do zastosowań w przemyśle, medycynie, administracji, biznesie i życiu prywatnym. Aby się tak stało, państwa i organizacje muszą zbudować odpowiednią infrastrukturę, wyszkolić pracowników w zakresie bezpiecznego korzystania z technologii, przygotować regulacje.

Sztuczna inteligencja przynosi największe korzyści tam, gdzie zostaje włączona w dobrze zaprojektowane procesy kliniczne i organizacyjne. AI jest technologią analogiczną do elektryczności i komputerów. Od tego, jak zostanie wykorzystana, zależą korzyści w postaci zwiększonej produktywności lub efektywności procesów. Organizacje muszą przebudować swoje procesy i nauczyć się wykorzystywać AI.

Problemem jest to, że wiele krajów nie posiada dziś ani odpowiednich kompetencji, ani zasobów obliczeniowych pozwalających samodzielnie oceniać najbardziej zaawansowane systemy AI. W efekcie mogą stać się jedynie odbiorcami technologii rozwijanej przez największe światowe koncerny.

Dlatego ONZ apeluje o rozwój niezależnych instytucji oceniających bezpieczeństwo AI, inwestycje w kompetencje oraz większą międzynarodową współpracę.

„Raport Niezależnego Międzynarodowego Panelu Naukowego ds. Sztucznej Inteligencji: Oparta na dowodach ocena szans, zagrożeń i skutków sztucznej inteligencji” ma stanowić naukową podstawę dla przyszłych decyzji dotyczących rozwoju i zarządzania sztuczną inteligencją na świecie. W jego opracowaniu uczestniczyło 40 ekspertów z różnych kontynentów, w tym prof. Yoshua Bengio oraz prof. Piotr Sankowski z Polski.

Czytaj także: Z tego AI korzysta 750 tys. lekarzy. Ale nie w Europie