„AI w szpitalu nie można wdrażać metodą prób i błędów”

Instytut Matki i Dziecka w Warszawie od dawna ma dział ds. AI i jest zaliczany do czołówki innowacyjnych szpitali. Jak IMiD strategicznie wdraża sztuczną inteligencję? Rozmowa dr n. med. Alicją Karney, Dyrektor Instytutu, oraz Radosławem Nowakiem, Kierownikiem Działu Wdrożeń w Centrum Innowacji i Sztucznej Inteligencji.

• AI w IMiD przede wszystkim wspiera personel, m.in. poprzez automatyzację powtarzalnych zadań administracyjnych i tworzenie dokumentacji medycznej.
• AI jest wdrażana tylko wtedy, gdy oferuje najlepsze rozwiązania konkretnego problemu.
• Każde rozwiązanie oceniane jest pod kątem skuteczności, bezpieczeństwa, kosztów i interoperacyjności.
• Placówka sięga do pilotaży, aby sprawdzić rzeczywistą wartość technologii.
• Rozwój AI w medycynie wymaga czasu, pieniędzy, dobrych danych i współpracy wielu specjalistów – ponieważ bezpieczeństwo pacjentów nie pozwala na eksperymentowanie metodą prób i błędów.
• IMiD chce uprościć ścieżkę opieki nad pacjentem z pomocą AI. Ta usprawni przepływ informacji i organizację pracy, pozostawiając decyzje kliniczne lekarzom.

W jakich obszarach działalności, poza radiologią, szpital wdraża AI?

Alicja Karney: Poza radiologią duży potencjał wykorzystania sztucznej inteligencji widzimy w procesach organizacyjnych i administracyjnych. Dotyczy to przede wszystkim narzędzi, które mogą ograniczać czas poświęcany przez personel na wykonywanie powtarzalnych czynności.

Jednym z najbardziej dojrzałych kierunków rozwoju, zarówno w naszym Instytucie, jak i w wielu szpitalach na świecie, są również rozwiązania typu speech-to-text, które mogą wspierać przygotowywanie dokumentacji medycznej poprzez automatyczną transkrypcję wypowiedzi lekarza.

W każdym przypadku podkreślamy jednak, że etap pilotażu nie jest równoznaczny z decyzją o wdrożeniu. Każde rozwiązanie oceniamy pod kątem jakości, bezpieczeństwa danych, możliwości integracji z systemami szpitalnymi oraz rzeczywistej wartości dla personelu i pacjentów.

Sztuczna inteligencja ma wspierać pracę specjalistów, a nie zastępować ich decyzje kliniczne. Takie podejście jest zgodne zarówno z dobrymi praktykami wdrażania AI w ochronie zdrowia, jak i z wymogami europejskiego AI Act dotyczącymi nadzoru człowieka nad systemami wysokiego ryzyka.

Jakimi zasadami kierują się Państwo, decydując się na nowe systemy?

Radosław Nowak: Wybór rozwiązania AI zawsze zaczynamy od zdefiniowania problemu, a nie od technologii. Pytamy najpierw, jaki konkretny problem kliniczny, organizacyjny lub administracyjny chcemy rozwiązać i czy sztuczna inteligencja rzeczywiście będzie najlepszym narzędziem. Nie każde wyzwanie wymaga zastosowania AI – czasem większą wartość przynosi zmiana procesu lub lepsze wykorzystanie już dostępnych systemów.

Jeżeli uznajemy, że AI może przynieść realną korzyść, oceniamy rozwiązanie wielowymiarowo. Znaczenie ma jego skuteczność, bezpieczeństwo, zgodność z obowiązującymi przepisami, jakość danych wykorzystywanych przez model, możliwość integracji z istniejącą infrastrukturą IT oraz wpływ na organizację pracy i doświadczenia pacjenta. Analizujemy również całkowity koszt wdrożenia i utrzymania rozwiązania, a nie wyłącznie koszt zakupu licencji. Tak samo ważna jest też ocena poziomu ryzyka systemu AI oraz zapewnienie odpowiedniego nadzoru człowieka nad jego działaniem.

Kluczowym elementem procesu są pilotaże prowadzone z udziałem przyszłych użytkowników: lekarzy, pielęgniarek, położnych, diagnostów, farmaceutów, pracowników administracyjnych i zespołów IT. Jeszcze przed rozpoczęciem testów definiujemy mierzalne cele oraz kryteria sukcesu. Efektem pilotażu jest decyzja o wdrożeniu albo uzasadniony wniosek, że dane rozwiązanie nie przynosi oczekiwanej wartości lub organizacja nie jest jeszcze gotowa na jego szersze wykorzystanie. W ochronie zdrowia odpowiedzialna rezygnacja z wdrożenia jest równie wartościową decyzją jak jego rozpoczęcie. Takie podejście pozwala ograniczać ryzyko i budować zaufanie do nowych technologii.

AI nie doczekała się dotychczas odpowiednika HTA. Czy możliwe jest obliczenie korzyści ekonomicznych z wdrożenia sztucznej inteligencji?

Alicja Karney: Sztuczna inteligencja jest przede wszystkim narzędziem, dlatego jej efekty ekonomiczne można analizować podobnie jak w przypadku innych technologii wspierających procesy kliniczne i organizacyjne. Coraz częściej wskazuje się jednak na potrzebę rozwijania metod oceny technologii medycznych dedykowanych rozwiązaniom opartym na AI, czyli HTA dla AI. Taka ocena powinna uwzględniać nie tylko skuteczność kliniczną, lecz także wpływ rozwiązania na organizację pracy, jakość wykorzystywanych danych, interoperacyjność, bezpieczeństwo, możliwość aktualizacji modeli oraz sposób sprawowania nad nimi nadzoru.

Korzyści ekonomiczne wynikające z wdrożenia AI nie zawsze będą oznaczały obniżenia kosztów leczenia. Mogą one wynikać między innymi ze skrócenia czasu wykonywania określonych czynności, ograniczenia liczby powtarzalnych zadań, lepszego wykorzystania dostępnych zasobów, usprawnienia przepływu informacji, zmniejszenia ryzyka błędów czy poprawy dostępności świadczeń.

Aby jednak rzetelnie ocenić te korzyści, konieczne jest określenie punktu wyjścia oraz zdefiniowanie mierzalnych wskaźników jeszcze przed wdrożeniem rozwiązania. Należy porównać sytuację przed zastosowaniem technologii i po jej wdrożeniu, uwzględniając nie tylko koszt zakupu lub licencji, lecz także wydatki związane z integracją, infrastrukturą, szkoleniami, utrzymaniem, aktualizacjami oraz nadzorem nad systemem. W przypadku rozwiązań opartych na AI ocena nie powinna kończyć się w momencie zakupu. Ich efektywność, jakość i bezpieczeństwo działania powinny być monitorowane przez cały okres użytkowania.

I tutaj dochodzimy do finansowania. Skąd brać środki na rozwiązania AI?

Radosław Nowak: Z perspektywy zespołu zajmującego się innowacjami, decyzja o rozpoczęciu pilotażu powinna od początku uwzględniać możliwość późniejszego utrzymania rozwiązania. Finansowanie testu ze środków projektowych, grantowych lub w ramach współpracy z partnerem technologicznym nie oznacza jeszcze, że po jego zakończeniu szpital będzie dysponował budżetem na stałe korzystanie z systemu.

Dlatego przed podjęciem decyzji należy analizować pełny koszt posiadania technologii, obejmujący licencje, integrację, infrastrukturę, aktualizacje, serwis, cyberbezpieczeństwo, szkolenia oraz ewentualny wzrost kosztów wraz ze zwiększaniem skali wykorzystania. Szczegółowe informacje dotyczące źródeł finansowania i decyzji budżetowych pozostają jednak w kompetencji Dyrekcji.

Z KPO szpital wdraża m.in. Platformę Usług Inteligentnych z algorytmami dla radiologii. Jak przebiega ten projekt?

Radosław Nowak: Projekt jest już właściwie zakończony. Zarówno samo wdrożenie rozwiązań, jak i cała realizacja przedsięwzięcia w ramach KPO przebiegły sprawnie, bez większych problemów i komplikacji. Początkowo pewne obawy budziły krótkie terminy realizacji oraz bardzo napięty harmonogram, jednak dzięki dobrej organizacji i zaangażowaniu zespołów projekt udało się zrealizować w wyznaczonym czasie. Obecnie wdrożone rozwiązania są stopniowo włączane do codziennej pracy szpitala.

IMiD organizuje co roku Mother and Child Startup Challenge, w którym zwycięskie projekty mogą liczyć na wdrożenie pilotażowe.

Radosław Nowak: Konkurs po raz pierwszy zorganizowano w 2022 roku jako Mother and Child Startup Challenge, natomiast od 2025 roku jest rozwijany pod nazwą MCSC Hospital Leadership Innovation. Zmiana podkreśliła szerszy zakres programu, który obejmuje obecnie innowacje odpowiadające na potrzeby różnych obszarów funkcjonowania szpitali – zarówno klinicznych, jak i administracyjnych. MCSC rozwija się dziś jako platforma współpracy łącząca szpitale, startupy, środowisko naukowe, biznes oraz administrację publiczną.

Od początku głównym założeniem konkursu było zmniejszanie dystansu pomiędzy twórcami innowacji a szpitalami poprzez identyfikowanie interesujących rozwiązań, a następnie umożliwienie ich pilotażowego przetestowania w bezpiecznych i ustrukturyzowanych warunkach. Celem programu nie jest wyłącznie wyłonienie „najlepszego startupu”, lecz przede wszystkim stworzenie warunków do odpowiedzialnej weryfikacji nowych technologii w rzeczywistym środowisku szpitalnym.

Pilotaż pozwala sprawdzić, czy technologia rzeczywiście rozwiązuje zidentyfikowany problem, odpowiada na potrzeby personelu i pacjentów oraz wpisuje się w organizację pracy placówki. Pozwala również ocenić, czy użytkownicy chcą z niej korzystać, jakie zmiany są potrzebne przed jej dalszym wykorzystaniem oraz czy osiągane korzyści uzasadniają koszty wdrożenia, integracji i utrzymania rozwiązania.

Szpitale uczestniczące w konkursie nie deklarują obowiązku zakupu ani stałego wdrożenia testowanej technologii. Jest to celowe założenie programu. Uważamy, że odpowiedzialną praktyką jest najpierw sprawdzenie rozwiązania, zamiast wybierania go wyłącznie dlatego, że jest popularne albo dobrze prezentuje się w materiałach promocyjnych. Pilotaż traktujemy przede wszystkim jako proces walidacji, a nie etap automatycznie prowadzący do zakupu.

Każdy pilotaż jest podsumowywany, a wnioski obejmują zarówno ocenę samej technologii, jak i przebieg współpracy z jej twórcami. Analizowana jest między innymi gotowość zespołu do dalszego rozwijania produktu, reagowania na potrzeby użytkowników oraz wprowadzania zmian wynikających z doświadczeń zdobytych w środowisku szpitalnym. Takie doświadczenia są wartością nie tylko dla Instytutu Matki i Dziecka, lecz również dla innych szpitali należących do ekosystemu MCSC, które mogą dzięki nim lepiej ocenić zasadność rozpoczęcia podobnego projektu.

Efektem pilotażu nie zawsze jest wdrożenie. Część projektów przechodzi do kolejnych etapów współpracy, inne wymagają dalszego rozwoju, dostosowania do realiów klinicznych lub rozpoczęcia wieloletniego projektu badawczo-rozwojowego. Niektóre mogą zakończyć się świadomą decyzją o niewdrażaniu rozwiązania na danym etapie. Jest to również wartościowy rezultat, ponieważ pozwala ograniczyć ryzyko kosztownych i nieefektywnych inwestycji oraz podejmować decyzje na podstawie rzeczywistych danych, a nie wyłącznie deklaracji producentów. W odniesieniu do trwających projektów często jest zatem zbyt wcześnie, aby przesądzać o ich ostatecznym wdrożeniu lub komercjalizacji.

Próbowanie nowości to jedno. Co jeszcze daje organizacja MCSC Hospital Leadership Innovation?

Radosław Nowak: Największą wartością programu jest budowanie wiedzy, kompetencji i zaufania pomiędzy szpitalami, startupami oraz ekspertami. Pilotaże pozostają ważnym elementem MCSC, jednak coraz większą rolę odgrywają również działania wspierające rozwój i ocenę innowacji, takie jak edukacja, wymiana doświadczeń, budowanie kompetencji w zakresie sztucznej inteligencji i zdrowia cyfrowego, współpraca z GAIA AI Factory czy planowane utworzenie sandboxu do testowania rozwiązań cyfrowych. Dzięki temu tworzymy ekosystem, który pomaga odpowiedzialnie rozwijać, oceniać i wdrażać innowacje, zamiast analizować je wyłącznie przez pryzmat pojedynczego projektu pilotażowego.

Korzystanie z AI w medycynie jest nadal domeną pasjonatów. Z czego to wynika? Braku pieniędzy? Braku czasu? Braku świadomości?

Alicja Karney: Wszystkie wymienione czynniki mogą mieć znaczenie, ale nie powiedziałabym, że korzystanie ze sztucznej inteligencji jest obecnie wyłącznie domeną pasjonatów. Coraz częściej jest to element świadomego rozwoju organizacji i odpowiedź na realne problemy związane między innymi z liczbą danych, obciążeniem administracyjnym oraz ograniczonymi zasobami kadrowymi.

Jednocześnie wdrażanie AI w szpitalu jest procesem znacznie bardziej złożonym niż sam zakup narzędzia. Wymaga czasu, finansowania, infrastruktury, kompetencji, zaangażowania IT, personelu medycznego, prawników, inspektora ochrony danych oraz osób odpowiedzialnych za zarządzanie zmianą. Nie powinno być pozostawiane wyłącznie pojedynczym entuzjastom, ponieważ trudno wówczas zapewnić ciągłość projektu i odpowiedzialny nadzór nad technologią.

W medycynie dochodzi do tego jeszcze jeden, kluczowy czynnik – bezpieczeństwo. Tu nie ma miejsca na eksperymentowanie metodą prób i błędów, bo stawką jest zdrowie i życie pacjenta. Zanim narzędzie AI trafi do użytku klinicznego, musi przejść drogę znacznie bardziej rygorystyczną niż w innych branżach: walidację, testy bezpieczeństwa, jasno określone procedury nadzoru. To dodatkowo tłumaczy, dlaczego tempo wdrożeń jest wolniejsze niż mogłoby się wydawać patrząc na rozwój samej technologii.

Warto też pamiętać, na jakim etapie faktycznie jest dziś AI w medycynie. Modele są tak dobre, jak dane, na których się je trenuje, a w ochronie zdrowia dane bywają niekompletne, niespójne między systemami albo po prostu trudno dostępne ze względu na ich wrażliwość. To realna bariera, którą często pomija się w entuzjastycznych narracjach o sztucznej inteligencji. Narzędzie może mieć świetną architekturę, ale bez dobrej jakości danych wejściowych jego rekomendacje będą tak samo niepewne.

Pasjonaci i liderzy zmian są bardzo potrzebni, ponieważ często inicjują nowe projekty. Docelowo jednak korzystanie z AI powinno opierać się na ustrukturyzowanych procedurach, zespołach interdyscyplinarnych i decyzjach podejmowanych na poziomie całej organizacji. IMiD już wcześniej podkreślał, że powodzenie projektów innowacyjnych zależy od specjalistycznego wsparcia i nie powinno opierać się wyłącznie na dodatkowym zaangażowaniu personelu medycznego.

Dodaj do zaufanych źródeł Google Śledź nasze artykuły w wiadomościach Google.

Jakie innowacje cyfrowe i AI IMiD planuje wdrożyć w najbliższych trzech latach?

Radosław Nowak: W kolejnych latach chcemy nadal identyfikować i testować rozwiązania, które mogą usprawnić zarówno procesy kliniczne, jak i funkcjonowanie administracyjne Instytutu. Szczególnie interesują nas technologie pozwalające ograniczać obciążenie personelu powtarzalnymi czynnościami, usprawniać tworzenie i porządkowanie dokumentacji, poprawiać przepływ informacji oraz lepiej wykorzystywać dane dostępne w organizacji.

Będziemy również analizować rozwiązania wspierające komunikację z pacjentem, organizację ścieżki pacjenta, zarządzanie procesami oraz podejmowanie decyzji przez personel. Nie zakładamy jednak wdrażania technologii tylko dlatego, że wykorzystuje ona sztuczną inteligencję. Każde rozwiązanie powinno odpowiadać na konkretną potrzebę, zostać ocenione pod względem bezpieczeństwa i skuteczności oraz – jeżeli jest to zasadne – przejść pilotaż przed podjęciem decyzji o szerszym zastosowaniu.

Jest rok 2030. Jak wygląda wizyta pacjenta w IMiD?

Alicja Karney: Chcielibyśmy, aby w 2030 roku ścieżka pacjenta była przede wszystkim prostsza i bardziej spójna. Pacjent nie powinien być obciążany koniecznością wielokrotnego przekazywania tych samych informacji, a personel powinien mieć szybki dostęp do danych potrzebnych do udzielenia świadczenia.

Technologie cyfrowe i sztuczna inteligencja mogą wspierać organizację wizyty, obieg dokumentacji, analizę danych oraz pracę personelu. Nie powinny jednak zastępować relacji pacjenta z lekarzem ani samodzielnie podejmować decyzji klinicznych. Ich rolą powinno być ograniczanie zbędnych czynności administracyjnych, aby pracownicy mogli poświęcić więcej czasu pacjentowi. Jest to jednak kierunek i wizja rozwoju, a nie deklaracja dotycząca konkretnych systemów, które będą funkcjonowały w Instytucie w 2030 roku.

Czytaj także: AI przewidzi ryzyko chorób i pomoże im zapobiec