Medycyna pilnie potrzebuje autonomicznej AI. Ale się jej boi

Agentowa sztuczna inteligencja przejęła pracę informatyków i jest gotowa, aby koordynować opiekę nad pacjentami i zarządzać szpitalami. Ale sektor zdrowia woli zaakceptować znane ludzkie błędy, niedobory lekarzy i straty finansowe wynikające z nieefektywnych procesów niż nieprzewidywalne błędy maszyny.

• Agenci AI mogą przejąć pracę administracyjną w szpitalach i przychodniach. Ale też popełniają błędy.
• Jednak obecna ochrona zdrowia też jest pełna błędów i nieefektywności, na które przymyka się oko.
• Nadmierne zaufanie do AI prowadzi do błędów automatyzacji – nadmiernego polegania na AI.
• Prędzej czy później agenci AI będą podejmować decyzje kliniczne, tak jak to robią dzisiaj systemy wspomagania decyzji medycznych (CDSS), ale autonomicznie. Lekarz będzie je weryfikował.
• Zamiast jednego superagenta powstaną wyspecjalizowani mikroagenci koordynujący opiekę.

Medycyna przypomina pole minowe. Ryzyko wybucha znienacka

Na pierwszy rzut oka ochrona zdrowia jest idealnym środowiskiem dla agentów AI – w mało którym sektorze gospodarki kryzys goni kryzys. Apokaliptyczna trójka – starzejące się społeczeństwo, braki lekarzy i ograniczone wydatki na zdrowie – odbija się na zdrowiu wszystkich, opóźniając dostęp do lekarzy i napinając budżety zdrowia do granic wytrzymałości.

Te problemy mogłaby po części rozwiązać autonomiczna AI, ale sektor zdrowia pozostaje sceptyczny. Czy to dmuchanie na zimne jest uzasadnione? Decyzje podejmowane przez agentów AI w medycynie mają zupełnie inną wagę niż w innych sektorach. Autonomiczny system, który popełni błąd w kodzie programu albo wyśle maila nie do tej osoby, co trzeba, nie wyrządzi dużych szkód. Ale autonomiczny system, który zawał serca pomyli z objawami grypy, może zabić.

To lekarze ponoszą odpowiedzialność za efekty leczenia i ewentualne błędy. Nie ma się co dziwić, że są ostrożni w stosunku do AI. Wiedzą, jak minimalizować ryzyko własnych błędów, ale nie wiedzą, jak to robić, gdy doradza im maszyna kierująca się niezrozumiałymi dla nikogo zasadami. A AI to geniusz i dziecko w jednym – raz postawi diagnozę, na którą przez lata nie wpadło dziesiątki lekarzy, a za drugim razem popełni błąd na poziomie studenta pierwszego roku medycyny. Agenci AI raz świetnie zaprogramują aplikację, a innym razem wymkną się spod kontroli, kasują bazy danych albo przeprowadzają ataki cybernetyczne.

Dopuszczając AI do pracy klinicznej, trzeba być świadomym jeszcze jednego ryzyka – błędu automatyzacji. Pracując z AI i coraz bardziej jej ufając, z czasem wyłącza się analityczne myślenie. Badania pokazują, że nawet 45–80% błędnych sugestii AI jest bezkrytycznie akceptowanych przez radiologów.

Transkrypcja dokumentacji medycznej to tylko przedsmak autonomicznej administracji

Błędem debat o AI w medycynie jest generalizacja. AI to nie jest jakaś abstrakcyjna technologia, ale konkretne rozwiązania. Przykładem są AI scribes, czyli systemy analizujące rozmowę lekarza z pacjentem i zamieniające ją na wpisy do elektronicznej dokumentacji medycznej. Szacuje się, że z technologii korzysta już co piąty lekarz w USA.

Mimo że AI samodzielnie transkrybuje rozmowę, sortuje informacje, a lekarz jedynie zatwierdza wpis, nie jest to autonomiczna AI. Taka byłaby, gdyby do tego zweryfikowała diagnozę, sprawdziła i zaproponowała najnowsze wytyczne kliniczne, wystawiła receptę, zwolnienie lekarskie, umówiła kolejną wizytę pacjenta w terminarzu, kupiła leki i dostarczyła je do domu pacjenta. A do tego jeszcze uzupełniła zebrane informacje danymi ze smartwatcha pacjenta. I tak dla każdego pacjenta.

Lekarz jedynie rozmawiałby z pacjentem i na koniec zatwierdziłby pracę agenta. Gabinet lekarski bez klawiatury i ekranu brzmi obiecująco. Ale nawet duże ośrodki uniwersyteckie nie mają odpowiedniej infrastruktury IT, wysokiej jakości danych oraz pieniędzy na zatrudnienie specjalistów od AI, którzy będą konserwować modele AI i kontrolować poprawność ich działania.

O wiele szybciej agentowa AI dotrze do pacjentów. Kryzys ochrony zdrowia (w tym zaufania) napędza rozwój konsumenckich rozwiązań AI. ChatGPT Zdrowie to pierwszy krok gigantów AI w kierunku agentycznej medycznej AI. Mając dostęp do dokumentacji medycznej oraz danych z urządzeń ubieralnych podpowie, co zjeść na śniadanie i kiedy umówić się do lekarza. To już tylko kwestia czasu, kiedy taki agent znajdzie za nas najbliższy termin wizyty u specjalisty, przeszukując e-terminarze przychodni albo dzwoniąc na rejestrację do skutku.

Mali agenci od zadań specjalnych

Generatywna AI jest mocna w szukaniu i analizowaniu danych, łączeniu informacji w różnych formatach, szukaniu zależności i korelacji, porównywaniu trendów na przestrzeni lat. Właśnie tego potrzebuje skomplikowany sektor zdrowia, aby lepiej wykorzystywać ograniczone budżety i zasoby kadrowe. 80–90% kosztów w ochronie zdrowia generują pacjenci z chorobami przewlekłymi i psychicznymi. Tyle, bo pacjenci przelatują przez dziurawe sito profilaktyki: są za późno diagnozowani, trafiają do szpitali z powikłaniami, bo nie zażywają regularnie leków, a klasyczna profilaktyka nie działa. To są pozamedyczne elementy – największe nieefektywności wynikają z fragmentacji informacji i złożoności administracyjnej.

Po automatyzacji procesu tworzenia dokumentacji medycznej kolejnym polem dla AI będzie koordynacja opieki pomiędzy systemem zdrowia a domem pacjenta. Na razie pacjent robi swoje, a lekarz swoje – bez porozumienia i jednego spójnego planu. Obecny poziom rozwoju AI sugeruje, że zamiast jednego superagenta AI w medycynie będą powstawać porozumiewający się między sobą mikro-agenci od pojedynczych zadań. Agent A będzie pomagał osobie z nadciśnieniem prowadzić zdrowy tryb życia, agent B przeanalizuje dokumentację medyczną, dane zebrane przez pacjenta i nowe wytyczne kliniczne, agent C rozplanuje plan leczenia i umówi wizyty, przypomni o terminach itd.

Domeną agentów będzie koordynacja, a lekarze niezmiennie pozostaną ekspertami od kontaktu z człowiekiem, korzystając z umiejętności, których AI nie ma – podejmowania decyzji w warunkach niepewności, obserwacji, doświadczenia, komunikacji, empatii, wsparcia i zrozumienia szerszego kontekstu, w jakim funkcjonuje pacjent. Oddając część odpowiedzialności agentom AI, musimy zaakceptować ryzyko. To kwestia czasu, kiedy agenci AI popełnią błąd, doprowadzą do śmierci pacjenta. Tak jak pierwsze wypadki z udziałem autonomicznych samochodów. Jednak problemy w służbie zdrowia są zbyt duże, by ignorować ogromną przewagę korzyści nad ryzykiem.

Agentowa AI to nowy rodzaj pracownika administracyjnego – nadal obcego i trudnego do zrozumienia, ale trzeba mu zaufać.

Czytaj także: Czy autonomiczna AI jest gotowa, aby leczyć pacjentów? Tak – wynika z nowego badania