„Wdrażanie AI zaczynamy od analizy problemów klinicznych”

Dzięki integracji elektronicznej dokumentacji medycznej (EDM) z dużymi modelami językowymi, lekarze z Clínica Alemana de Santiago w Chile mogą szybko otrzymać podsumowanie informacji z obszernej kartoteki pacjenta oraz generować raporty sprawozdawcze. Dr Alejandro Mauro, dyrektor ds. transformacji cyfrowej, wyjaśnia, jak bezpiecznie i skutecznie stosować LLM w ochronie zdrowia.

Clínica Alemana wprowadziła duże modele językowe do e-dokumentacji medycznej. Jak działa integracja EDM i LLM?

Kiedy w listopadzie 2022 r. pojawił się ChatGPT, zaskakując świat nowymi możliwościami, wiedzieliśmy, jak będzie go można wykorzystać w medycynie – od lat testowaliśmy, ale jeszcze bez wdrażania, poprzednie modele językowe, takie jak BERT, RoBERTa czy medicalBERT. Stąd wraz z premierą ChatGPT byliśmy świadomi potencjału LLM, ale także ograniczeń i trudności związanych z ich bezpiecznym włączeniem do środowiska medycznego.

ChatGPT był punktem zwrotnym w rozwoju AI, wprowadzając element, którego brakowało poprzednim modelom: trenowanie modelu z wykorzystaniem informacji zwrotnych, znane jako uczenie się przez wzmocnienie (reinforcement learning).

W grudniu 2022 roku zaczęliśmy zastanawiać się nad potencjalnymi obszarami zastosowania, aby zintegrować GPT z naszą elektroniczną dokumentacją medyczną i przeprowadzić wstępne testy. Bezpośrednie włączenie ChatGPT do EDM nie było – i nadal nie jest – technicznie wykonalne, bo jest to model zamknięty. Okazja nadarzyła się, gdy Microsoft wprowadził modele OpenAI do prywatnej infrastruktury chmurowej na platformie Azure.

Jak w przypadku każdej innowacji, brakowało nam praktycznego doświadczenia we wdrażaniu modeli LLM w EDM. Dlatego rozpoczęliśmy prace rozwojowe od określenia, w których miejscach EDM użycie LLM będzie dozwolone. W kolejnym kroku zaczęliśmy tworzyć i testować prompty, stopniowo je udoskonalając. Potem powstał menedżer komunikatów, a następnie odpowiednie moduły w systemie EDM do wyświetlania nowych informacji. Pierwsze LLM udostępniliśmy personelowi medycznemu w październiku 2023 roku.

Jakie dokładnie?

Na pierwszym miejscu były podsumowania dokumentacji pacjentów. Ci z nas, którzy pracują z EDM dobrze wiedzą, czego jej brakuje. Pomimo solidnego projektowania systemów IT, EDM trudno się przegląda albo szuka w niej informacji. Pojawienie się genAI daje po raz pierwszy możliwość rozwiązania tego problemu poprzez przekształcanie setek stron ustrukturyzowanych i nieustrukturyzowanych informacji klinicznych w jasne i krótkie podsumowanie, pozwalające lekarzom maksymalnie wykorzystać czas przeznaczony na wizytę lekarską. Wprowadziliśmy też narzędzie wspomagające tworzenie notatek klinicznych – LLM podpowiada dalszą część tekstu, aby stał się on bardziej kompletny, jasny i poprawny gramatycznie.

Drugim zastosowaniem było generowanie raportów medycznych. W oparciu o notatki kliniczne lub całą historię pacjenta, LLM automatyzuje tworzenie dokumentów wymagane przez ubezpieczycieli lub inne podmioty, wyręczając w zadaniach postrzeganych przez lekarzy jako „administracyjne”.

Po trzecie, LLM bardzo nam ułatwiają tworzenie materiałów informacyjnych dla pacjentów, dostosowując język medyczny do prostego języka zrozumiałego dla osób niebędących lekarzami. Eksperymentalnie wprowadziliśmy też sugestie dotyczące planu leczenia, ale na razie ta opcja nie jest dostępna dla personelu medycznego.

Co zrobić, aby korzystanie z modeli LLM było łatwe dla użytkowników i bezpieczne pod względem dokładności i ochrony danych?

Najważniejsze jest wykorzystanie takiej chmury danych, która oferuje wdrażanie modeli LLM, ale jednocześnie jest zgodna z lokalnym i międzynarodowym prawem. Wiele osób nie zdaje sobie sprawy, że korzystając z publicznych narzędzi hostowanych na wspólnej infrastrukturze firm takich jak Meta, OpenAI czy Google, mogą ujawniać poufne dane pacjentów i potencjalnie naruszać ich prawa.

My mieliśmy to szczęście, że chmura danych Microsoftu, na której pracuje nasz szpital, oferuje możliwość bezpiecznego wdrażania modeli AI. Ale można to też zrobić sięgając do modeli open-sourcowych i uruchomić AI na bazie lokalnej, jeśli nie wdrożono chmury. Na początek zalecam skonsultowanie pomysłu z działem prawnym i użytkownikami końcowymi, czyli lekarzami.

A jak wyglądał etap włączania AI do EDM?

Postrzegamy elektroniczną dokumentację medyczną jako żywy organizm, który musi rozwijać się i ewoluować. AI jest po prostu kolejnym krokiem w tej ewolucji.

Zazwyczaj wprowadzamy ulepszenia do EDM bez większych ogłoszeń, po prostu udostępniając je wszystkim lub wybranym użytkownikom. Tak też było w przypadku naszego rozwiązania AI nazwanego AlemanaGPT. Dodaliśmy ikonę w różnych miejscach EDM i obserwowaliśmy zachowania użytkowników: kto kliknął, które funkcje były najbardziej atrakcyjne, kto nigdy z nich nie korzystał, kto wypróbował je raz, a kto używał ich regularnie.

Na podstawie tych informacji zidentyfikowaliśmy trzy grupy lekarzy, z którymi nawiązaliśmy kontakt, aby poznać ich opinie i możliwości ulepszeń. Zebrane informacje zwrotne pozwoliły nam zoptymalizować narzędzie i dostosować je do sposobu pracy pracowników medycznych.

AlemanaGPT to żywy projekt, w którym codziennie wprowadzane są jakieś zmiany. Regularnie spotykamy się z zespołami klinicznymi, konsultujemy, co można zmienić na lepsze, aktualizujemy modele AI. Początkowo pracowaliśmy na GPT-3.5, a obecnie wykorzystujemy różne modele OpenAI, Anthropic i Google, w zależności od zadania.

Klinika stosuje też klasyczne narzędzia AI.

Algorytmy AI wdrażamy od 2018 roku. Każdego roku testujemy 2–4 modele komercyjne. Jeśli mają one wymagane certyfikaty, są bezpieczne oraz oferują konkretne korzyści, kwalifikujemy je do dalszych badań. Zazwyczaj testujemy przez sześć miesięcy i na podstawie wyników decydujemy, czy włączyć je na stałe do infrastruktury IT, czy odrzucić.

Tak powstał m.in. RapidAI, czyli zestaw modeli, które identyfikują obszary tkanki mózgowej nadającą się do uratowania po udarze, umożliwiając leczenie, które bez tego wsparcia byłoby niemożliwe. Skorzystały na tym setki pacjentów po udarze, w przypadku których udało się ograniczyć do minimum negatywne następstwa choroby.

Z kolei LimbusAI działający w naszym centrum radioterapii konturuje skany tomografii komputerowej narządów, aby uniknąć ich napromieniowania, co jest niezbędnym krokiem w bezpiecznym planowaniu leczenia. Bez AI cały proces zajmował nawet trzy godziny, a teraz tylko dwie minuty. Wprowadziliśmy też DeepC – rodzaj modelu AI, który pozwala wdrożyć i przetestować nowe modele AI za pomocą kilku kliknięć, co znacznie skraca czas konfiguracji i przyspiesza testy.

Z genAI szpital korzysta już 2 lata, z AI – ponad 7. Jakie ma Pan przemyślenia na jej temat?

Żadna technologia nie rozwiązuje wszystkich problemów ani nie jest idealna. Wiele z innowacji daje wrażenie rewolucyjnych i obiecuje przenosić góry, ale dopiero wdrożenie ujawnia ich rzeczywisty potencjał i ograniczenia.

Z mojego punktu widzenia najważniejsze dla szpitala jest posiadanie dojrzałości do szybkiego testowania innowacji. Wówczas placówka może szybko wdrażać najcenniejsze rozwiązania lub odrzucać te, które dużo obiecują, ale mało oferują. Dla mnie kryterium wyboru jest proste i ogranicza się do monitorowania, czy z nowej funkcji AI korzystają pracownicy służby zdrowia. Jeśli tak, wiem że takie rozwiązanie stanowi wartość dodaną i warto je skalować.

Chciałbym podkreślić jedno: Jesteśmy głęboko sceptyczni i kierujemy się dowodami wdrażając AI. Każdą technologię oceniamy obiektywnie i metodycznie, w pierwszym kroku identyfikując ryzyko związane z eksperymentalnym zastosowaniem. Obejmuje to przegląd badań walidacyjnych, certyfikatów i dokumentacji technicznej. Następnie przeprowadzamy testy pilotażowe z udziałem użytkowników końcowych. Na koniec monitorujemy wpływ nowej funkcji na pracę.

Szpital jako jeden z niewielu na świecie myśli już o wdrażaniu tzw. agentów AI.

W marcu 2025 roku powstał system Clínica Alemana Agent System, który opracowaliśmy we współpracy z partnerem technologicznym. Jego zakres kompetencji rozszerzyliśmy poza EDM na wszystkie systemy e-zdrowia w tym portal pacjenta, stronę internetową, system rozliczeń itd. Nowe rozwiązanie pozwala nam tworzyć dowolnych agentów AI i integrować je z naszymi systemami informatycznymi na bazie scentralizowanej platformy. Agenci mogą wykorzystywać różne narzędzia, aby zyskać bezpieczny dostęp do danych klinicznych oraz następnie analizować je za pomocą modeli LLM.

Pierwsze trzy wdrożenia są planowane na najbliższe miesiące i obejmą m.in. Agent EDM pozwalający lekarzom „rozmawiać” z dokumentacją medyczną pacjenta oraz zadawać konkretne pytania. Agent przeszukuje całą dokumentację, w tym wyniki badań, i zwraca informacje w żądanym formacie. Drugą innowacją będzie bezpieczny portal AI dla lekarzy, czyli taki prywatny ChatGPT w naszej chmurze. Wiedząc, że lekarze i tak już korzystają z ChatGPT, portal pozwoli zapobiegać ryzykownym praktykom wprowadzania danych pacjenta do systemów komercyjnych, jak właśnie ChatGPT.

Jak udaje się Państwu przekonać personel do korzystania z AI?

Podstawą jest dobra komunikacja między Działem Informatyki Biomedycznej a pracownikami. Nowe rozwiązania projektujemy w oparciu o bezpośrednie opinie użytkowników, a gdy pomysły pochodzą od informatyków, zawsze współpracujemy z lekarzami i pielęgniarkami, aby zweryfikować ich przydatność.

Wszystko zaczyna się od problemu, nigdy od technologii. Jeśli nie ma problemu, który technologia może rozwiązać, nie podejmujemy żadnych działań, niezależnie od trendów technologicznych. Dzięki takiemu podejściu udało się stworzyć autentyczną kulturę innowacji, gdzie pracownicy czują, że mogą otwarcie zgłaszać problemy z IT i nowe propozycje. Staramy się też personalizować system IT w zależności od użytkownika. Każdy z nich ma dostęp do funkcji zgodnie ze swoim profilem i potrzebami. W praktyce nie mamy jednej elektronicznej dokumentacji medycznej, ale wiele EDM-ów, w zależności od roli pracownika.

Czytaj także: Pobierz raport specjalny o AI w ochronie zdrowia