„Poradnik Nabywcy AI”. Jak nie przejechać się na wdrożeniu AI?

Rozpoczęły się konsultacje publiczne pierwszego w Polsce „Poradnika Nabywcy AI” dla sektora ochrony zdrowia autorstwa Koalicji AI w Zdrowiu. Jakie 10 pytań trzeba sobie zadać, aby kupić dobry system sztucznej inteligencji zamiast obietnic?

• Ruszyły konsultacje publiczne pierwszego w Polsce „Poradnika Nabywcy AI”. Ma pomóc szpitalom i innym podmiotom ochrony zdrowia podejmować świadome decyzje zakupowe dotyczące sztucznej inteligencji.
• Autorzy przekonują, że zakup AI powinien zaczynać się od analizy rzeczywistego problemu i potrzeb organizacji, a nie od fascynacji nową technologią.
• Przed wyborem rozwiązania należy sprawdzić jego zgodność z przepisami, skuteczność potwierdzoną dowodami naukowymi oraz gotowość do wdrożenia w codziennej praktyce klinicznej.
• Wąskim gardłem wdrożenia AI jest m.in. jakość danych, integracja z systemami szpitalnymi, cyberbezpieczeństwo, ochrona danych oraz przygotowanie personelu do pracy z AI.
• Poradnik zawiera 10 pytań, które trzeba sobie zadać, aby uniknąć kosztownych błędów i zwiększyć szanse na udane wdrożenie sztucznej inteligencji.

Rozwiązania AI dla ochrony zdrowia rozwijają się tak szybko, że mało kto jest w stanie ocenić, które z nich są bezpieczne i przynoszą wymierne korzyści, a które to tylko marketingowe obietnice bez pokrycia. Szpitale i przychodnie są bombardowane ofertami aplikacji AI do diagnostyki obrazowej, administracji oraz wsparcia decyzji klinicznych. Swoje rozwiązania AI wprowadzają renomowani dostawcy IT i startupy medtech. Te ostatnie robią wszystko, aby znaleźć podmiot gotowy przetestować ich innowacje.

Do tego decyzja zakupowa dotycząca AI to labirynt pełen niepewności. Trzeba uwzględnić aspekty prawne, bezpieczeństwo danych oraz integrację nowego rozwiązania z obecną infrastrukturą IT. To dlatego większość podmiotów zdrowia bardzo ostrożnie, dmuchając na zimne, podchodzi do AI. Z badania Centrum e-Zdrowia z 2025 roku wynika, że z AI korzysta zaledwie 6,5% badanych placówek, a do tego i tak większość z nich to systemy do diagnostyki obrazowej wbudowane w urządzenia medyczne nowej generacji.

„Poradnik Nabywcy AI” wyjaśnia, jakie aspekty trzeba przeanalizować, aby rozsądnie , a nie na fali mody, wdrażać dobre i bezpieczne aplikacje AI.

AI jest gorącym tematem, ale nie zawsze musi być pierwszym wyborem

Autorzy poradnika proponują zacząć od pytania, czy placówka zdrowia w ogóle potrzebuje AI. Pierwszym krokiem powinno być zdefiniowanie problemu. Jeśli organizacja może go rozwiązać innymi sposobami – poprzez lepszą organizację pracy, automatyzację lub klasyczne narzędzia analityczne – wdrażanie AI jest zbędne. Lepiej wprowadzić narzędzia, które są prostsze w implementacji, zamiast porywać się na AI.

Dopiero gdy udoskonalenie procesu lub usunięcie wąskich gardeł wymaga analizy ogromnych zbiorów danych lub bardzo złożonych zależności, sztuczna inteligencja staje się pierwszym wyborem. Autorzy przypominają również starą zasadę informatyki: jakość algorytmu nigdy nie będzie wyższa od jakości danych, na których działa. Dlatego najpierw trzeba uporządkować dane i zagwarantować ich jakość, a dopiero potem nakładać na nie narzędzia AI.

Dużą część poradnika poświęcono regulacjom i nieporozumieniom, które im towarzyszą. Przykładowo, oznakowanie CE (Conformité Européenne) bywa błędnie interpretowane jako gwarancja jakości klinicznej. Tak naprawdę oznacza, że producent deklaruje zgodność wyrobu z obowiązującymi wymaganiami Unii Europejskiej dotyczącymi bezpieczeństwa, zdrowia i ochrony środowiska.

Ważnym punktem na checkliście nabywcy AI jest też sprawdzenie, do jakiej klasy ryzyka należy produkt, jaka jednostka przeprowadzała ocenę zgodności oraz czy producent dysponuje pełną dokumentacją techniczną. W przypadku rozwiązań niewymagających statusu wyrobu medycznego warto zwrócić uwagę na inne standardy jakości, np. normę ISO 82304-1. Autorzy zachęcają, aby już dziś pytać producentów, jak zamierzają spełnić przyszłe wymagania dotyczące systemów wysokiego ryzyka stawiane przez EU AI Act, nawet jeśli daty ich obowiązywania na poziomie unijnym mogą jeszcze ulec zmianie (na chwilę obecną termin ich wejścia w życie przesunięto z sierpnia br. na grudzień 2027 r.).

Pokaż mi dowody naukowe zamiast katalogowych obietnic

Autorzy uczulają, aby żądać konkretów, w tym wyników walidacji i znajomości parametrów takich jak AUC (Area Under the ROC Curve) – wskaźnika oceny jakości algorytmów diagnostycznych i modeli AI obrazującego, jak dobrze algorytm odróżnia osoby z daną chorobą od osób zdrowych. Producent powinien znać także czułość i swoistość modelu oraz informacje o populacji, na której model został przetestowany.

Tak samo ważna jest walidacja zewnętrzna, czyli potwierdzenie działania rozwiązania poza środowiskiem producenta. Największą wartość dowodową mają badania prospektywne oraz publikacje w recenzowanych czasopismach naukowych. Nawet jeśli model jest sprawdzony, dokładny i bezpieczny, trzeba przemyśleć, jak wdrożyć go w ramach istniejącej infrastruktury IT oraz zintegrować z systemami HIS, PACS czy LIS. Jeśli AI będzie wymagała od lekarzy wykonywania dodatkowych czynności w codziennej pracy, skazana jest na porażkę. Jeśli lekarz będzie musiał wprowadzać osobno dane do aplikacji AI i EDM, szybko pojawi się frustracja i rozczarowanie.

Dlatego przed wdrożeniem należy przeprowadzić ocenę gotowości organizacyjnej. To właśnie problemy integracyjne najczęściej prowadzą do opóźnień i niepowodzeń we wdrożeniach AI w szpitalach. Po uruchomieniu algorytmu trzeba monitorować jego wydajność oraz mierzyć rzeczywiste efekty kliniczne i organizacyjne, aby zapobiec tzw. dryfowi modelu (model drift). Chodzi o sytuację, gdy skuteczność modelu AI pogarsza się z czasem, ponieważ warunki, w których działa, zmieniają się w porównaniu z tymi, na których był trenowany.

Całkowity koszt posiadania. Cena za model to dopiero początek wydatków

Zakup technologii AI wymaga opracowania strategii implementacji obejmującej takie aspekty jak szkolenia personelu, zarządzanie ryzykiem dyskryminacji algorytmicznej, zgodność z prawem w zakresie przetwarzania danych medycznych, kwestie cyberbezpieczeństwa, utrzymanie rozwiązania po wdrożeniu oraz analiza całkowitego kosztu posiadania.

Do tego dochodzi też plan finansowania. Cena zakupu często stanowi niewielką część całkowitych kosztów. Budżet musi uwzględniać wydatki związane z integracją, szkoleniami, aktualizacjami, utrzymaniem infrastruktury oraz nadzorem nad działaniem systemu w kolejnych latach.

Takich niuansów jest sporo, a pominięcie nawet jednego z nich może zakończyć się fiaskiem wdrożenia AI.

1 lipca br. dokument trafił do konsultacji publicznych. Przedstawiciele szpitali, eksperci kliniczni, firmy technologiczne i instytucje publiczne mogą zgłaszać swoje uwagi i propozycje przed finalną publikacją. W opinii Koalicji AI w Zdrowiu poradnik będzie pierwszym w Polsce standardem wspierającym odpowiedzialne zakupy rozwiązań AI w ochronie zdrowia.

Uwagi i propozycje do „Poradnika Nabywcy AI” w ramach konsultacji publicznych przyjmowane są na stronie Koalicji AI w Zdrowiu.

10 pytań, które warto zadać przed zakupem AI do ochrony zdrowia

1. Czy AI jest potrzebna? Problem wymaga wdrożenia sztucznej inteligencji, czy można go rozwiązać prostszymi metodami?
2. Czy AI spełnia wymagania prawne? Czy produkt posiada odpowiednie certyfikaty (np. CE), spełnia wymogi MDR oraz przygotowuje się do AI Act?
3. Czy AI jest skuteczna i jakie są na to dowody? Czy istnieją wiarygodne wyniki walidacji, badania kliniczne i publikacje naukowe potwierdzające skuteczność?
4. Czy AI będzie działać w praktyce? Czy rozwiązanie można zintegrować z istniejącymi systemami i codziennym workflow personelu?
5. Czy personel jest gotowy na AI? Czy użytkownicy zostaną odpowiednio przeszkoleni i zaakceptują nowe narzędzie?
6. Czy AI jest etyczna i wolna od dyskryminacji? Czy algorytm został sprawdzony pod kątem stronniczości (bias) i zapewnia równą jakość działania dla różnych grup pacjentów?
7. Czy dane medyczne będą przetwarzane zgodnie z prawem? Czy rozwiązanie spełnia wymagania RODO i zapewnia odpowiednią ochronę danych pacjentów?
8. Czy rozwiązanie jest cyberbezpieczne? Czy producent stosuje odpowiednie zabezpieczenia i procedury chroniące przed cyberatakami?
9. Czy zapewnisz utrzymanie AI po wdrożeniu? Kto będzie odpowiadał za aktualizacje modelu, wsparcie techniczne, monitoring i rozwój systemu?
10. Czy znasz pełny koszt i długoterminowe korzyści? Czy uwzględniono nie tylko cenę zakupu, ale również koszty integracji, utrzymania, szkoleń oraz rzeczywisty zwrot z inwestycji?

Czytaj także: Czy polskie systemy IT dla medycyny dorównują tym z USA?