Komisja Europejska łagodzi EU AI Act i przesuwa terminy

EU AI Act miał ochronić społeczeństwo przed niebezpieczeństwami sztucznej inteligencji. Ale dzisiaj wiadomo, że przepisy są nieżyciowe i blokują wdrażanie najnowszych rozwiązań AI ułatwiających lekarzom pracę z dokumentacją medyczną. Komisja Europejska robi krok w tył i przesuwa terminy. Jak zmieni się EU AI Act?

• Pakiet legislacyjny AI Omnibus przesuwa terminy wdrożenia części przepisów EU AI Act.
• Przepisy dotyczące systemów AI wysokiego ryzyka wejdą w życie w grudniu 2027 r. zamiast w sierpniu br., a dla rozwiązań regulowanych przez MDR – w sierpniu 2028 r.
• Komisja Europejska przyznała, że obecne regulacje mogą ograniczać rozwój innowacyjnych narzędzi AI dla lekarzy i utrudniać ich wdrażanie na rynku europejskim.
• Nowe propozycje przewidują uproszczenie części obowiązków, większe wsparcie dla małych i średnich firm oraz ograniczenie problemu nakładających się regulacji (AI Act i MDR).
• Mimo zmian filozofia EU AI Act pozostaje bez zmian: systemy AI w medycynie nadal będą podlegały rygorystycznym wymogom dotyczącym transparentności, dokumentacji i nadzoru człowieka.

EU AI Act chroni obywateli głównie przed korzyściami AI

7 maja br. Rada UE i Parlament Europejski osiągnęły porozumienie dotyczące pakietu uproszczeń dla aktu ws. sztucznej inteligencji, tzw. AI Omnibus. Przewiduje on złagodzenie części przepisów, odroczenie terminu wejścia w życie deadlinów dotyczących systemów wysokiego ryzyka (także w medycynie) i udogodnienia dla firm rozwijających AI, zwłaszcza tych mniejszych.

Bruksela zdała sobie sprawę, że choć EU AI Act ma dobre intencje, to niektóre przepisy mogą dosłownie zdusić w zarodku innowacje w ochronie zdrowia, na które czekają lekarze i pacjenci. Pierwszą ofiarą aktu stał się OpenEvidence, czyli platforma generatywnej AI wspierająca decyzje kliniczne. Choć w USA korzysta z niej ok. 40% lekarzy, w Europie nie jest dostępna. Według EU AI Act, taki system to rozwiązanie wysokiego ryzyka, a to nakłada na producenta obowiązki, których nie jest w stanie spełnić.

AI Act reguluje systemy AI w zależności od poziomu ryzyka. Najbardziej restrykcyjne przepisy dotyczą rozwiązań tzw. wysokiego ryzyka, czyli systemów wykorzystywanych m.in. w ochronie zdrowia (miały one wejść w życie już w sierpniu br.). Taki model miał zapewniać użytkownikom większą ochronę podczas korzystania z AI dzięki wymogom w zakresie dokumentowania błędów oraz przejrzystości działania modeli. Ale firmy AI zaczęły bić na alarm, że regulacje zduszą rozwój algorytmów tworzonych w Europie i wyeliminują z rynku rozwiązania, które mogłyby pomóc milionom pacjentów. Bruksela wylała dziecko z kąpielą – EU AI Act miał chronić obywateli krajów członkowskich przed negatywnymi skutkami AI, ale w efekcie zaczął chronić ich przed korzyściami AI.

Fala krytyki spadła na ogromne obowiązki dokumentacyjne, niejasne definicje systemów wysokiego ryzyka, nakładające się regulacje sektorowe (EU AI Act a regulacje dotyczące urządzeń medycznych MDR), brak standardów technicznych, ogromne ryzyko odpowiedzialności prawnej za dynamicznie zmieniające się modele AI. OpenEvidence to nie jedyna ofiara EU AI Act. Wśród nich jest też nowy ChatGPT dla Lekarzy, asystenci AI analizujący dane medyczne w poszukiwaniu trendów, algorytmy predykcyjne, a nawet tzw. AI scribes, czyli systemy do automatycznego tworzenia dokumentacji medycznej podczas wizyty pacjenta. I nawet jeśli to ostatnie może być kwalifikowane jako AI administracyjne o niskim ryzyku, placówki medyczne wolą dmuchać na zimne i nie wdrażać tego typu rozwiązań.

AI Omnibus może rozczarować, część organizacji zdrowia za twardymi regulacjami

Nowy pakiet Omnibus łagodzi część przepisów. Najważniejsza zmiana dotyczy systemów wysokiego. Zamiast sierpnia 2026 roku część przepisów zacznie obowiązywać dopiero od grudnia 2027 roku. W przypadku systemów, które już są wyrobami medycznymi, a więc regulowanymi w MDR (np. AI w radiologii i diagnostyce, Software as a Medical Device SaMD, systemy wspomagania decyzji kluczowych), termin przesunięto na sierpień 2028 roku.

AI Omnibus upraszcza część obowiązków, wprowadza wyjątki dla małych i średnich firm, redukuje niepewność związaną z nakładającymi się regulacjami i poluzowuje wymagania dla systemów wspierających podejmowanie decyzji, a nie podejmujących je autonomicznie.

Oficjalnie UE tłumaczy to koniecznością uniknięcia „niepewności prawnej” i brakiem gotowych standardów technicznych. Ale wiadomo też, że EU AI Act poległ na regulowaniu technologii, która rozwija się tak szybko, że dziś wprowadzane regulacje jutro okazują się nieaktualne. Przykładem są modele generatywne AI, których działanie nie jest wytłumaczalne, a ich sposób działania zmienia się w czasie rzeczywistym. Powstają już pierwsze rozwiązania agentowe, a AI staje się częścią systemów EDM, co z kolei balansuje na granicy systemów wysokiego i niskiego ryzyka.

AI Omnibus jest częścią szerszej strategii Digital Omnibus, której celem jest ograniczenie biurokracji cyfrowej w Europie. W ochronie zdrowia liczba przepisów regulujących produkt cyfrowy może zniechęcić nawet najbardziej zdeterminowanego innowatora. Wystarczy wymienić MDR, GDPR, Data Act, NIS2, EHDS.

Komisja Europejska zrozumiała, że AI EU Act blokuje rozwój generatywnych systemów dla lekarzy i wypycha startupy i firmy medtech poza UE. Ale zawiodą się ci, którzy liczyli na przełomową liberalizację – EU AI Act w swojej filozofii pozostaje bez zmian. Nadal opiera się na klasyfikacji ryzyka, nadal wymaga transparentności modeli AI; bez zmian generuje nowe obowiązki dokumentacyjne, wymusza tzw. nadzór człowieka, nawet jeśli model AI jest lepszy od niego.

Propozycje złagodzenia przepisów zawarte w Digital Omnibus napotykały już na krytyczne opinie m.in. Stałego Komitetu Lekarzy Europejskich (CPME, Standing Committee of European Doctors). W opublikowanym w kwietniu br. stanowisku, CPME opowiada się za ostrożnym podejściem do AI w medycynie. CPME domaga się usunięcia lub ograniczenia przepisów, które m.in. mają ułatwić rozwój AI poprzez szersze wykorzystanie anonimowych danych pacjentów.

Czytaj także: Co MZ planuje w e-zdrowiu? Wywiad z Karoliną Tądel [WIDEO]