Bestseller o AI w medycynie: AI się myli, lekarze też [WYWIAD]

Tam, gdzie sztuczna inteligencja jest lepsza od lekarza, utrzymywanie człowieka w pętli decyzyjnej może tylko pogorszyć skuteczność modelu – twierdzi dr Robert Wachter. W swojej nowej książce „A Giant Leap: How AI Is Transforming Healthcare and What That Means for Our Future” („Ogromny krok naprzód: jak sztuczna inteligencja zmienia opiekę zdrowotną i co to oznacza dla naszej przyszłości”) twierdzi, że AI będzie standardowo wspierać podejmowanie decyzji klinicznych.

O czym jest Pana nowa książka „A Giant Leap”?

Opowiada ona o rewolucji, której jesteśmy świadkami. A dokładnie o wprowadzaniu do opieki zdrowotnej – dziedziny, w której zawsze człowiek odgrywał centralną rolę – nowej technologii, która, moim zdaniem, będzie mądrzejsza niż jakikolwiek człowiek. Oczywiście mam na myśli sztuczną inteligencję.

Dla mnie jest to największy eksperyment w historii opieki zdrowotnej. Chodzi o coś więcej niż wdrażanie rozwiązań ułatwiających pojedyncze czynności. Stawką jest to, czy AI sprawi, że medycyna będzie skuteczniejsza i bezpieczniejsza, a opieka zdrowotna tańsza. Jeśli się okaże, że AI znacznie poprawia wyniki leczenia i sprawia, że system zdrowia działa lepiej, będziemy postawieni przed większym pytaniem o rolę lekarzy, pielęgniarek i pacjenta.

Co nowego wnosi AI? Cyfryzacja, która też miała być wielką rewolucją, po kilku dekadach wdrażania elektronicznej dokumentacji medycznej bardziej rozczarowuje niż cokolwiek transformuje.

W mojej książce cytuję zdanie Hemingwaya z książki „Słońce też wschodzi”. Kiedy bohater zostaje zapytany, jak zbankrutował, odpowiada: „Na dwa sposoby: najpierw stopniowo, a potem nagle”. Analogicznie traktuję proces cyfryzacji. Dotąd byliśmy w tej „stopniowej” fazie rozwoju, ale teraz AI znacznie ją przyspiesza. Cyfryzacja, przez którą przechodziliśmy latami, była konieczna. Czy rozczarowała? Jestem innego zdania. Jako lekarz zacząłem pracować jeszcze przed erą komputerów. Kiedyś spędzałem większość dnia biegając pomiędzy pracownią rentgenowską a oddziałami szpitala, kompletując papiery, próbując odczytać pismo odręczne. Każdy dokument miał jedną kopię i dokumentację medyczną mógł przeglądać w tym samym czasie tylko jeden pracownik. Teraz mam dostęp do dokumentów na komputerze, kiedy chcę – i to już jest ogromne ułatwienie. Niestety, często o tym zapominamy, jak wiele się zmieniło na lepsze.

Ale cyfryzacja doprowadziła też do niezamierzonych, negatywnych konsekwencji i nie okazała się panaceum na problemy opieki zdrowotnej. Wielu z nas wierzyło, że elektroniczna dokumentacja automatycznie sprawi, że opieka będzie lepsza, bezpieczniejsza i tańsza. Rzeczywistość jest jednak zupełnie inna. Ale największą zaletą cyfryzacji jest zamiana papierów na dane elektroniczne. Stworzyliśmy bazę, na podstawie której można generować kolejne korzyści, przede wszystkim dzięki AI.

Już obecnie do medycyny wchodzą zaawansowane algorytmy AI (red.: amerykańska FDA dopuściła na rynek ponad 1400 algorytmów AI do zastosowań w medycynie) albo systemy do automatycznego tworzenia elektronicznej dokumentacji medycznej. Te nowe możliwości pojawiają się w czasie, kiedy systemy zdrowia są pod ogromną presją: brakuje lekarzy, dostęp do opieki jest nierówny, budżety na ochronę zdrowia pękają w szwach.

Zderzenie nowych narzędzi AI o ogromnej mocy z kryzysem opieki zdrowotnej sprawia, że optymistycznie myślę o przyszłości medycyny. O ile sektor zdrowia nigdy nie był pionierem we wdrażaniu AI, o tyle teraz mocno przyspiesza, bo AI zaczyna rozwiązywać konkretne problemy. Lekarze, którzy wypróbowali AI, szybko dostrzegają, że pomaga skrócić czas pracy administracyjnej albo lepiej zaopiekować się pacjentami.

Tych problemów w ochronie zdrowia narosło sporo. Wystarczy wspomnieć obowiązki administracyjne, które zajmują lekarzowi nawet do 50% czasu pracy i prowadzą do wypalenia zawodowego. Czy sztuczna inteligencja pomoże uporać się z tymi wyzwaniami?”

Wszystko zależy od tego, jak rozwinie się technologia i czy pójdą za nią zmiany w systemie zdrowia. Weźmy na przykład ambient scribing (red.: systemy AI, które słuchają rozmowy lekarza z pacjentem i na tej podstawie generują wpisy do elektronicznej dokumentacji medycznej, w tym recepty, skierowania itd.). Popularność tego rozwiązania w USA szybko rośnie, mimo że jest dostępne dopiero od 2–3 lat. W moim szpitalu ma do niego dostęp każdy lekarz, dzięki czemu możemy rozmawiać z pacjentami bez wpatrywania się w ekran czy klawiaturę. Treść rozmowy jest zamieniana przez AI na notatki o odpowiedniej strukturze. Zadowoleni są też pacjenci, co potwierdzają pierwsze badania.

Ale są i minusy. Badanie przeprowadzone w Stanach Zjednoczonych wykazało, że ambient scribes doprowadziły do zwiększenia kosztów opieki. Z prostego powodu: systemy te pomagają w dokumentowaniu wszystkich usług na tyle dokładnie, że wzrosła kwota refundacji. To obnażyło anomalie naszego systemu zdrowia – płacimy głównie za ilość zrealizowanych usług, a nie za wyniki leczenia.

Sztuczna inteligencja nie prowadzi więc automatycznie do oszczędności w systemie, ale rozwiązuje problemy na poziomie świadczeniodawcy, poprawiając – o czym wspomniałem wcześniej – relacje między lekarzem a pacjentem czy jakość leczenia.

Oczywiście istnieje wiele obaw związanych ze wspomaganiem decyzji z pomocą AI, jak przykładowo stronniczość. Ale stronniczość i błędy już występują, jedynie dotąd je ignorowaliśmy.

Przybywa rozwiązań AI. Oprócz ambient scribes rośnie liczba np. algorytmów predykcyjnych. Które z tych rozwiązań są przereklamowane, a które warto obserwować i wdrażać?

Najważniejsze są rozwiązania wspierające podejmowanie decyzji klinicznych oparte na AI, pomagające lekarzom w diagnozie i planowaniu leczenia. Wchodzą one do systemu zdrowia tylnymi drzwiami i są często wykorzystywane nieoficjalnie. Przykładowo, wielu lekarzy korzysta już z dużego modelu językowego dla medycyny OpenEvidence (red.: niedostępny w Europie). Radzi sobie bardzo dobrze z diagnozą i lekarze mu ufają.

Ale największy przełom dokona się wtedy, gdy tego typu rozwiązania zostaną wbudowane w systemy elektronicznej dokumentacji medycznej. Znając historię leczenia pacjenta i dane dotyczące zdrowia, AI wygeneruje zalecenia diagnostyczne i przygotuje wstępne plany leczenia. W ten sposób lekarze będą mieli nowego asystenta.

Stawka jest wysoka, bo jeśli AI się pomyli, lekarz może powielić ten błąd. A to właśnie lekarz odpowiada osobiście za podejmowane decyzje. To będzie najtrudniejszy element w rewolucji cyfrowej w medycynie. Usprawnienie rozliczeń czy prowadzenia dokumentacji medycznej to nisko rosnące jabłka, po które łatwo sięgnąć. Tutaj ryzyko jest niskie, a korzyści widać od razu, choć są one ograniczone.

Dopiero włączenie AI do decyzji klinicznych będzie miało realny wpływ na jakość leczenia. Proszę pamiętać, że wynagrodzenia lekarzy stanowią około 10 procent kosztów bezpośrednich opieki zdrowotnej. Z kolei ich decyzje generują około 80 procent tych kosztów. Każde dodatkowe badanie zlecone pacjentowi to większe koszty. Jeśli AI będzie w stanie np. ograniczyć liczbę koniecznych testów laboratoryjnych, aby dojść do prawidłowej diagnozy, to jest to ogromna szansa na zwiększenie efektywności całego systemu.

To po stronie lekarzy. W przypadku pacjentów, generatywna AI staje się szybko pierwszym narzędziem, po które sięgają, kiedy mają jakiś problem zdrowotny.

To prawda. Wyszukiwarki AI rejestrują codziennie tysiące zapytań związanych ze zdrowiem, a pacjenci coraz częściej korzystają z AI, zanim pójdą do lekarza. Na wizytę często przychodzą z pytaniami lub sugestiami czatbotów. Nie wszystkim lekarzom się to podoba, ale to część szerszego trendu – AI to technologia, która demokratyzuje dostęp do informacji. Ale z drugiej strony są i plusy. Osobiście wolę, kiedy pacjenci korzystają z ChatGPT zamiast wyszukiwarki Google, bo wyniki są dużo lepsze.

Z jedną uwagą – nie zawsze są to podpowiedzi poprawne, a pacjenci nie wiedzą, jak weryfikować opinie AI i czasami wierzą im ślepo. A to może prowadzić do błędnych decyzji dotyczących zdrowia. W przyszłości, odpowiadając na pytania o zdrowie, czatboty powinny postępować tak samo jak lekarz, zadając kolejne pytania uszczegóławiające. Jeszcze lepiej, jeśli byłyby zintegrowane z portalami pacjentów, zyskując w ten sposób dostęp do dokumentacji medycznej. To znacznie poprawiłoby jakość sugestii AI. Dużo większym wyzwaniem będzie wbudowanie mechanizmów bezpieczeństwa, aby AI dokładnie wiedziała, kiedy może dać rekomendacje, a kiedy skierować pacjenta do lekarza.

Co zrobi medycyna, gdy AI dorówna lub prześcignie lekarzy w diagnozowaniu i leczeniu?

To pytanie, przed którym stoją także inne zawody: dziennikarze, prawnicy, księgowi itd. Nie sądzę, aby w ochronie zdrowia doprowadziło to do tego, że AI będzie autonomicznie leczyć pacjentów. Narzędzia AI mogą dostarczać nowej wiedzy i wskazówek, ale decyzja, które z nich są istotne z punktu widzenia leczenia, wymaga specjalistycznej wiedzy, szczególnie w tak odpowiedzialnej dziedzinie jak medycyna.

AI sprawi, że każdy lekarz będzie jeszcze lepszym lekarzem. Na razie AI jest drugim pilotem, który ostrzega o błędach, sprawdza informacje, podpowiada. I nawet jeśli AI ma większą wiedzę, lekarz ma empatię. Ale zmiana ról jest nieunikniona, nawet jeśli niełatwo jest zaakceptować fakt, że maszyna może być lepsza niż człowiek. Myślę jednak, że z czasem się przyzwyczaimy. Zresztą młodsze pokolenie chętnie sięga do AI, bo jest to wygodne.

W swojej książce zwraca Pan uwagę, że AI nie musi być idealna.

Mamy tendencję do stawiania technologii bardzo wysokich wymagań. Jest to oczywiście zrozumiałe, bo jeśli sztuczna inteligencja popełni błąd, może go szybko powielić na setki, tysiące pacjentów. Jednak oczekiwanie perfekcji jest nierealne i przynosi efekt przeciwny do zamierzonego.

Błędy zawsze były i będą. Przyjdzie na pewno taki moment, kiedy AI doprowadzi do śmierci pacjenta i będzie o tym głośno, podobnie jak głośno było o pierwszych wypadkach z udziałem autonomicznych samochodów. Ale już teraz każdego roku odnotowuje się setki tysięcy zgonów spowodowanych błędami medycznymi. Z tego powodu nie zamykamy szpitali i zwalniamy lekarzy.

Pytanie brzmi, czy sztuczna inteligencja jest lepsza od obecnego systemu. Lepsza w różnych kategoriach: wiedzy medycznej, generowanych kosztów, efektów leczenia. Może być lepsza, zwiększając dostępność pomocy, która wcześniej była bardzo ograniczona. Weźmy za przykład czatboty wykorzystywane w poradach psychologicznych. Zapewniają one dostęp do opieki, której wiele osób inaczej by nie miało.

Musimy realnie spojrzeć na możliwości AI w kontekście ułomności obecnego systemu. Czekanie, aż AI będzie w 100% bezpieczna i precyzyjna, mija się z celem.

A jeśli będzie lepsza niż lekarz, to czy lekarz nadal powinien być „w pętli decyzyjnej”?

O tym też wspominam w swojej książce. Obecnie panuje przekonanie, że lekarz zawsze ma ostatnie zdanie i musi być elementem procesu podejmowania decyzji. Ale co jeśli AI będzie lepsza od lekarza i ewentualna interwencja lekarza tylko zaszkodzi decyzjom AI? To całkiem realistyczny scenariusz – wraz z upowszechnieniem się AI, lekarze będą coraz bardziej polegać na jej możliwościach, co z kolei doprowadzi do tzw. deskillingu, zmniejszenia kompetencji medycznych. Wtedy utrzymywanie człowieka w pętli decyzyjnej będzie kontraproduktywne.

Czyli o mocy AI w medycynie zadecyduje nie tyle sama technologia, ile regulacje.

Nie martwię się brakiem regulacji, jeśli chodzi o wdrażanie AI przez szpitale i systemy opieki zdrowotnej. Z mojego doświadczenia wynika, że organizacje opieki zdrowotnej są bardzo ostrożne i nie wprowadzają narzędzi, co do których nie są przekonane, że są w pełni bezpieczne.

Bardziej niepokoi mnie odpowiedzialność prawna za błędy popełnione przez AI. W sektorze konsumenckim, kiedy pacjenci pytają AI o diagnozę i porady zdrowotne, nadzór jest dużo mniejszy. Cały obszar pozostawiono firmom AI, którym bardziej zależy na szybkości rozwoju niż na bezpieczeństwie.

Co najbardziej Pana zaskoczyło podczas pisania książki o AI w medycynie?

Chyba to, że AI daje mi coraz więcej powodów do optymizmu, jeśli chodzi o przyszłość medycyny. Dziesięć lat temu, kiedy pisałem moją poprzednią książkę „The Digital Doctor” („Cyfrowy Lekarz”), byłem sfrustrowany postępem cyfryzacji, a zwłaszcza elektroniczną dokumentacją medyczną. Tym razem, im więcej rozmawiałem z osobami z sektora zdrowia – a na potrzeby książki przeprowadziłem ponad 100 wywiadów – tym bardziej zacząłem przekonywać się, że AI to wielka szansa dla ochrony zdrowia, która znajduje się w głębokim kryzysie.

Czytaj także: „Lekarz nie jest od raportowania. To może przejąć AI”