AI nie działa tak, jak obiecywano? Uwaga, to może być dryf
Dodano: 26.08.2026
Niektóre algorytmy sztucznej inteligencji świetnie działają na danych treningowych, ale ich wydajność może spadać po wdrożeniu w placówce zdrowia. Tylko 3 na 5 szpitali to kontrolują. Eksperci przypominają, że stosowanie AI wymaga innego podejścia niż w przypadku klasycznych systemów IT.
Szpitale ufają algorytmom i nie sprawdzają ich skuteczności
Tylko 61 proc. szpitali korzystających z AI sprawdza ich skuteczność na własnych danych, a zaledwie 44 proc. ocenia modele pod kątem błędów i stronniczości – wynika z badania przeprowadzonego na danych Amerykańskiego Stowarzyszenia Szpitali (American Hospital Association) pochodzących z 2425 szpitali.
Tymczasem każde wdrożenie algorytmu AI powinna poprzedzać systematyczna ocena wydajności na grupie pacjentów danej placówki, także pod względem potencjalnego ryzyka dyskryminacji niektórych grup chorych.
Skuteczność modeli AI zależy od populacji, na której zostały wytrenowane. Algorytm opracowany na danych z jednego szpitala może działać znacznie gorzej w innej placówce obsługującej pacjentów w innym wieku, o innym statusie społecznym czy profilu chorób.
Lokalna walidacja powinna być standardem przed każdym wdrożeniem – taki postulat przedstawiono w publikacji w Nature Medicine z 2025 roku, w której autorzy przekonywali, że jednorazową walidację zewnętrzną należy zastąpić ciągłą oceną algorytmów na danych konkretnego szpitala. Skuteczność modeli może nawet zależeć od sposobu prowadzenia dokumentacji medycznej. Zjawisko to określa się jako dryfowanie modeli AI.
Szpitale niegotowe do samodzielnej oceny AI
Szpitale tworzące własne modele znacznie częściej przeprowadzają lokalną ocenę ich skuteczności i ryzyka stronniczości niż placówki korzystające z gotowych rozwiązań dostarczanych przez producentów systemów EDM lub firmy zewnętrzne – wynika z badania.
Zdaniem autorów oznacza to, że odpowiedzialność za bezpieczeństwo AI nie może spoczywać wyłącznie na pojedynczych szpitalach. Potrzebne są narzędzia ułatwiające ocenę modeli, wspólne standardy oraz wsparcie dla placówek dysponujących mniejszymi zasobami.
W Stanach Zjednoczonych obowiązują już przepisy wymagające od producentów certyfikowanych systemów informatycznych udostępniania informacji o sposobie trenowania modeli, ich ograniczeniach oraz wynikach lokalnej walidacji. Amerykańska Agencja Leków i Żywności FDA także rozwija własne ramy regulacyjne dla systemów AI wykorzystywanych jako wyroby medyczne. W Europie tego typu obowiązki nakłada EU AI Act.
Oprócz regulacji, potrzebne są nowe kompetencje organizacyjne oraz tworzenie struktur odpowiedzialnych za nadzór nad AI w szpitalach. Szpitale przez dekady nauczyły się jednego schematu wdrażania technologii polegającego na zakupie systemu IT, jego instalacji i przeszkoleniu personelu. Klasyczne oprogramowanie jest jednak statycznym narzędziem – jego funkcje i skuteczność nie zależą od danych i populacji pacjentów. Inaczej jest w przypadku AI, gdzie model jest tak dobry jak dane, na których pracuje. Ale wiele placówek nie zdaje sobie z tego sprawy.
Czy Platforma Usług Inteligentnych też może dryfować? Modele lokalne a działające w chmurze
Według najnowszego raportu Centrum e-Zdrowia, jedynie 7,3 proc. placówek zdrowia w Polsce wykorzystuje AI w diagnostyce i leczeniu, 4,7 proc. – do obsługi pacjentów, a 5,9 proc. – w zarządzaniu podmiotem. Także zainteresowanie wdrożeniem AI w ciągu najbliższych 12 miesięcy jest umiarkowane i zależy od rodzaju podmiotu. Największą gotowość deklarują szpitale (40,9 proc.), podczas gdy w podmiotach pozaszpitalnych wynosi ona 15,9 proc., a w grupie AŚZ – 10,9 proc.
Najczęściej planowanym zastosowaniem AI jest obsługa pacjentów, zwłaszcza optymalizacja kontaktu przez infolinię, wirtualnego asystenta lub chatbota (43,2 proc. wskazań). W diagnostyce największym zainteresowaniem cieszą się AI w MRI (35 proc.),CT (31,3 proc.), mammografia (19,9 proc.) i RTG (18,7 proc.).
Każdy lokalnie wdrożony model – czyli taki, który działa na danych lokalnych – może dryfować. Dlatego, zanim placówka zdrowia zdecyduje się na model, który w innych placówkach albo badaniach naukowych osiąga świetne rezultaty, konieczne jest uporządkowanie danych. Wkrótce ponad 300 szpitali otrzyma bezpłatny dostęp do Platformy Usług Inteligentnych, czyli narzędzia AI pomagającego w ocenie zdjęć diagnostyki obrazowej. W tym przypadku problem dryfu nie występuje, bo jest to rozwiązanie chmurowe. Każdy obraz z mammografii, RTG albo TK przesyłany jest na serwer centralny i dopiero tam oceniany.
