Jak działa pierwszy mentor AI dla pacjentów onkologicznych?

Dave tłumaczy diagnozy i niezrozumiałe wyniki badań. W empatyczny sposób odpowie na każde pytanie chorego. Ale nie jest to lekarz, tylko system AI. Wywiad z Iradem Deutschem, współzałożycielem izraelskiej firmy Belong, która opracowała Dave’a – pierwszego na świecie onkologicznego trenera konwersacyjnego opartego na sztucznej inteligencji.

Jak działa Dave?

Dave został stworzony, aby odpowiadać w rzetelny sposób na pytania pacjentów oraz doradzać im. Naszego bota AI przeszkoliliśmy na zbiorach danych zawierających m.in. anonimowe zapisy rozmów pomiędzy pacjentami a lekarzami, dokumenty medyczne, wyniki leczenia raportowane przez chorych w aplikacji Belong’s Beating Cancer Together – największej na świecie sieci społecznościowej dla pacjentów chorych na raka. To łącznie miliardy punktów danych zebranych w okresie 7 lat.

Następnie – aby Dave stał się rozwiązaniem klasy medycznej – zastosowaliśmy tzw. podejście ARCH. Aakronim ten oznacza cztery podstawowe wyzwania, którym musi sprostać generatywna platforma sztucznej inteligencji, aby nadawała się do zastosowań w opiece zdrowotnej: Dokładność, Odpowiedzialność, Zgodność i Halucynacje.

Halucynacje, czyli zmyślone przez AI fakty, to największa przeszkoda do zastosowania dużych modeli językowych w medycynie. Jak poradziliście sobie z nimi?

Aby zniwelować halucynacje i skutecznie rozwiązać obawy dotyczące dokładności, Dave jest zasilany przez kilka silników LLM (red. duże modele językowe) współpracujących ze sobą. Mówiąc prościej, każdy model weryfikuje poprawność swojego kolegi, aby wykluczyć potencjalne błędy. Dodatkowo zaimplementowaliśmy warstwę „odpowiedzialnej sztucznej inteligencji” wykorzystującą szereg autorskich algorytmów. W efekcie uzyskaliśmy zgodność z rygorystycznymi przepisami i wymogami bezpieczeństwa i Dave uzyskał w Izraelu status platformy generatywnej sztucznej inteligencji klasy medycznej.

Halucynacje to jeden problem. Drugim jest to, że generatywna sztuczna inteligencja nie posiada pamięci długotrwałej – po zakończeniu czatu, bot zapomina, o czym była poprzednia rozmowa.

Podtrzymanie ciągłości rozmowy – która przecież musi obejmować całą podróż pacjenta składającą się z wielu punktów danych – było dużym wyzwaniem. Bez tego elementu trudno mówić o dobrym doświadczeniu pacjenta.

W przeciwieństwie do większości rozmów z publicznie dostępnymi rozwiązaniami sztucznej inteligencji, takimi jak ChatGPT i Bard, interakcje z Dave’em trwają czasami miesiące. Intymny i zaufany charakter tej relacji między użytkownikami a botem wymagał wyposażenia go w pamięć. Tak, aby pacjenci traktowali go jako przyjaciela znającego problemy i troski, któremu nie trzeba wyjaśniać history choroby od początku przy każdej rozmowie.

Mówiąc językiem technicznym, opracowaliśmy mechanizm, który dzieli długie rozmowy na mniejsze segmenty, umożliwiając modelowi językowemu przetwarzanie znacznych ilości danych podczas odpowiadania na zapytania. Do tego zastosowaliśmy tzw. „tagowanie kontekstowe” pozwalające Dave’owi odwoływać się tylko do istotnych fragmentów rozmów pacjenta podczas formułowania odpowiedzi.

To szereg skomplikowanych mechanizmów, którym zadaniem jest zagwarantowanie jakości rozmowy podobnej do rozmowy z człowiekiem.

Systemowi AI brakuje już tylko dostępu do elektronicznej dokumentacji medycznej, aby zapewnić jeszcze większą personalizację i porady dopasowane do historii choroby. Czy taka integracja jest w ogóle możliwa?

Pracujemy nad tym. Rozpoczęliśmy m.in. rozmowy z dostawcami usług medycznych.

Na chwilę obecną, użytkownicy mogą przesyłać fragmenty dokumentacji medycznej, jak wyniki badań laboratoryjnych i diagnostyki obrazowej (w tym CT, PET i RTG), raporty sekwencjonowania DNA i podsumowania wizyt lekarskich. Dave identyfikuje typ dokumentu przekazanego przez chorego i przedstawi uproszczone wyjaśnienie jego treści. Jest też w stanie odpowiedzieć na wszelkie pytania pacjenta odnoszące się do danych czy parametrów zdrowia.

Taką funkcjonalność cenią sobie pacjenci, którzy otrzymują często niezrozumiałe i napisane eksperckim językiem raporty. Teraz wystarczy je wczytać do systemy, a nasz bot AI wyjaśni ich znaczenie.

Jakie są dotychczasowe opinie chorych? Czy pacjenci chorzy na raka są gotowi na taki nowy model wsparcia udzielanego przez sztuczną inteligencję?

Dave jest już dostępny dla 500 000 osób, a opinie, które otrzymaliśmy, są w przeważającej mierze pozytywne. Chorzy cenią sobie dogłębne odpowiedzi na pytania i empatyczne interakcje oraz dostępność czatu 24 godziny na dobrę. Jeden z lekarzy kliniki Mount Sinai stwierdził nawet: „Gdybym nie wiedział, że Dave jest mentorem AI, byłbym przekonany, że jest lekarzem z doświadczeniem w zakresie różnych rodzajów nowotworów”.

Wspomniałeś o empatii. Czy to możliwe, aby AI była empatyczna, współczująca?

To wręcz fundamentalny element charakteru Dave’a. Pacjenci chorzy na raka przechodzą przez niezwykle trudny etap w swoim życiu i dlatego wymagają wyjątkowego podejścia. Nie wystarczy po prostu przedstawić im informacji; Dave przekazuje fakty, ale jednocześnie podkreśla ich pozytywne aspekty, gdy tylko jest to możliwe. Najważniejsze, aby system AI nie wprowadzał pacjentów w błąd, rozbudzając nieuzasadnioną nadzieję na wyzdrowienie.

Jedno z najczęściej zadawanych pytań przez pacjentów dotyczy szans przeżycia. Tutaj Dave podaje surowe fakty, tak samo jak lekarz, i wyjaśnia co kryje się za liczbami. Z jednej strony przedstawia pacjentom obiektywne statystyki, a z drugiej – podkreśla, że są one tworzone na podstawie średniej wyników pacjentów i nie obrazują indywidualnej sytuacji chorego. To ważne z etycznego punktu widzenia, bo każdy przypadek jest inny, a liczby nie są w stanie wyjaśnić wszystkiego.

Po co pacjentom taki chat AI? Do kogo kierujecie to rozwiązanie?

Każdego roku rośnie liczba diagnoz raka, a liczba lekarzy, w tym specjalistów onkologii, jest po prostu za mała, aby sprostać rosnącym potrzebom pacjentów. Rozwiązania generatywnej sztucznej inteligencji, takie jak Dave, mogą potencjalnie rozwiązać ten problem, automatyzując wiele rutynowych zadań i procesów, pozwalając pracownikom służby zdrowia skoncentrować się na najważniejszych aspektach opieki nad pacjentem. AI może edukować pacjentów, rozwiewać ich wątpliwości, tłumaczyć zawiłe kwestie medyczne, usprawnić planowanie wizyt czy po prostu dostarczać wsparcia.

Czytaj także: ChatGPT to największy eksperyment w dziejach ludzkości