OECD krytykuje pilotaże AI w medycynie. „Nic nie zmieniają”

Wykorzystanie sztucznej inteligencji – i to mimo ogromnych możliwości – nadal ogranicza się do pojedynczych projektów pilotażowych. Najnowszy raport OECD „Scaling Artificial Intelligence in Health” ostrzega przed opóźnieniami we wdrażaniu AI, zaniedbaniami w szkoleniu personelu oraz niską jakością danych.

• OECD ostrzega, że większość projektów AI w ochronie zdrowia kończy się na pilotażach i nie jest wdrażana na większą skalę.
• Głównymi barierami wdrożeń są niska jakość danych, brak interoperacyjności, niejasne regulacje oraz niedostateczne kompetencje cyfrowe personelu.
• Tylko około 10 proc. rozwiązań AI w obrazowaniu medycznym zostało wdrożonych na poziomie całego kraju (kraje OECD).
• OECD wskazuje, że skuteczne wykorzystanie AI wymaga lepszych danych, nowych modeli refundacji, walidacji technologii i budowania zaufania użytkowników.
• Bez strategii i inwestycji w cyfryzację systemy ochrony zdrowia nie wykorzystają potencjału sztucznej inteligencji.

Wnioski z raportu OECD są alarmujące: wiele projektów AI kończy się na etapie lokalnych wdrożeń, ponieważ brakuje wspólnych standardów danych, jasnych zasad odpowiedzialności, interoperacyjności oraz kompetencji cyfrowych personelu medycznego. Problemem pozostaje niski poziom zaufania do AI wśród pacjentów i pracowników ochrony zdrowia. Jak to zmienić? Skuteczne skalowanie AI wymaga dobrej jakości danych, regulacji, infrastruktury, edukacji i zarządzania. OECD przygotowało specjalną checklistę, która ma pomóc unikać najczęstszych błędów wdrożeniowych.

Boom technologii, ale wdrożenia pozostają daleko w tyle

Choć AI jest już stosowana we wszystkich krajach OECD m.in. do wsparcia zadań administracyjnych, w medycynie wykorzystywana jest rzadko. Przykładowo, zaledwie 10 proc. rozwiązań AI w obrazowaniu medycznym zostało wdrożonych na poziomie krajowym. OECD zwraca uwagę, że wiele szpitali i placówek ochrony zdrowia implementuje AI w izolacji, bez wspólnych standardów i bez możliwości łatwego skalowania rozwiązań w innych placówkach.

W praktyce prowadzi to do powielania kosztów, problemów z interoperacyjnością, ograniczonej jakości danych, trudności z oceną skuteczności AI i braku zaufania użytkowników. Aby to zmienić, AI powinno być postrzegane jako bazowe rozwiązanie w ochronie zdrowia, a nie dodatek do niego.

Bez wysokiej jakości danych sztuczna inteligencja po prostu nie będzie działać. Problem polega jednak na tym, że sektor zdrowia nadal wykorzystuje mniej niż 5 proc. dostępnych danych, a 95 proc. pozostaje na papierze albo w silosach danych.

Jednym z najważniejszych zaleceń raportu jest budowa fundamentów danych opartych na zasadzie FAIR, czyli danych możliwych do odnalezienia, dostępnych, interoperacyjnych i możliwych do ponownego wykorzystania. OECD przypomina też, że dane zdrowotne muszą być reprezentatywne dla populacji; w przeciwnym razie AI może wzmacniać nierówności i generować błędne decyzje kliniczne. W Europie sytuację może poprawić centralna struktura zarządzania danymi zdrowotnymi, jaką jest powstająca Europejska Przestrzeń Danych Zdrowotnych (EHDS). Dzięki niej, anonimowe dane m.in. z badań naukowych oraz systemów elektronicznej dokumentacji medycznej trafią do centralnych repozytoriów i będą mogły być wykorzystywane w rozwoju algorytmów AI.

Strategie AI. Nawet jeśli są, nie idą za nimi konkretne działania

Polska ma swoją strategię rozwoju AI w postaci „Polityki rozwoju sztucznej inteligencji w Polsce do 2030 roku”. Ale nie ma sektorowego planu dla AI, zresztą jak w większości krajów OECD. Z badania wynika, że tylko 18 proc. krajów OECD posiada strategię AI dla zdrowia, 18 proc. ma dedykowany organ nadzorujący AI w ochronie zdrowia, a jedynie 3 proc. opracowało dedykowane przepisy prawne.

Efekt: chaotyczne inwestycje w AI. Oprócz interoperacyjności danych, do rozwoju AI niezbędne są też mechanizmy walidacji i oceny skuteczności (w Polsce oceną technologii medycznych zajmuje się AOTMiT, ale nie w zakresie rozwiązań AI), nowe strategie refundacji (wiele modeli AI służy profilaktyce, a system zdrowia płaci za liczbę wykonanych usług, a nie za wyniki leczenia) oraz zasady odpowiedzialności (kto odpowiada w przypadku błędu AI).

Do tego dochodzi zaufanie, które z kolei wymaga edukacji użytkowników końcowych. OECD zwraca uwagę, że nawet najlepsze rozwiązania technologiczne nie będą działały bez akceptacji użytkowników końcowych. Lekarze muszą wiedzieć, jak działa AI, jakie są ograniczenia modeli, jak interpretować wyniki, kiedy kwestionować rekomendacje systemu oraz jak bezpiecznie wykorzystywać AI w praktyce klinicznej. Na końcu algorytmy AI – czego zresztą wymaga EU AI Act – muszą być monitorowane, a błędy – raportowane. Dotyczy to też kontroli tzw. zjawiska dryfowania modeli AI, czyli sytuacji, w której algorytm wyćwiczony na danych testowych ma wysoką skuteczność, ale spada ona ze zmianami danych lub gdy jest wdrożony w placówce.

Raport nie jest jednak wezwaniem do regulacji, ale raczej ostrzeżeniem, że bez odpowiedniej strategii, ochrona zdrowia przeoczy szanse związane ze sztuczną inteligencją.

Czytaj także: 8. urodziny IKP. 20 mln kont, ale nowych przybywa za wolno