Komu EU AI Act wyjdzie na dobre, a komu zaszkodzi?

Unijna ustawa o sztucznej inteligencji (EU AI Act) wzbudza duże kontrowersje. Czy nie dobije już i tak tonącego w regulacjach europejskiego przemysłu technologii medycznych? I czy nie zablokuje nowych możliwości, jakie stwarza AI? Podczas Europejskiego Forum Zdrowia w Gastein (24-27 września, Austria) eksperci dyskutowali, jak wprowadzać w życie zapisy AI Act nie blokując innowacyjności ochrony zdrowia.

Regulować czy nie regulować AI?

Zwolennicy unijnej ustawy o sztucznej inteligencji argumentują, że rozporządzenie jest niezbędne, aby AI była bezpieczna i zgodna z podstawowymi wartościami europejskimi. Historyk Yuval Noah Harari, w swojej najnowszej książce „NEXUS”, także postuluje regulowanie AI, ostrzegając przez niekontrolowanym rozwojem tej nowej technologii.

– Nie budujemy szybkich samochodów bez projektowania dobrych hamulców. Dlaczego takiego podejścia nie mamy w stosunku do AI? – pyta Harari.

Akt w sprawie AI ma też spore grono krytyków, którzy twierdzą, że Europa „najpierw reguluje, zamiast wspierać innowacje”. Cytują oni najnowszy raport Komisji Europejskiej „Przyszłość europejskiej konkurencyjności” autorstwa Mario Draghiego, który ostrzega, że Europa “jest słaba w nowych technologiach, które będą napędzać przyszły wzrost gospodarczy”, a do tego “jest w ogromnym stopniu uzależniona od importu technologii cyfrowych”.

Zaufana AI to bezpieczna AI

Dla Marco Marsella, dyrektora ds. cyfrowych, EU4Health w Dyrekcji Generalnej Komisji Europejskiej ds. Zdrowia i Bezpieczeństwa Żywności (DG SANTE), ustawa o sztucznej inteligencji koncentruje się na zaufaniu i bezpieczeństwie.

– EU AI Act zmierza we właściwym kierunku, gwarantując, że rozwiązania wprowadzane na rynek są bezpieczne dla pacjentów – powiedział Marsella, podkreślając znaczenie regulacji, które zwiększają bezpieczeństwo bez tłumienia innowacji. Wspomniał przy tym, że ustawa przewiduje budowanie tzw. „piaskownic”, które umożliwiają państwom członkowskim i firmom testowanie rozwiązań technologicznych przed ich wdrożeniem na pełną skalę.

Jelena Malinina, dyrektor ds. danych w Eurordis, dodała, że „z punktu widzenia pacjenta ustawa tworzy ramy zapewniające bezpieczeństwo potrzebne w ochronie zdrowia”, ostrzegając jednocześnie, że zaufanie nie jest czymś, co raz zdobyte zostaje na zawsze. Dr Daniel Pinto dos Santos, radiolog ze Szpitala Uniwersyteckiego w Kolonii, twierdzi z kolei, że nie możemy nadmiernie polegać na sztucznej inteligencji w praktyce klinicznej.

– Ustawa o AI zakłada, że lekarze nie powinni ślepo ufać sztucznej inteligencji. Moim zdaniem nadzór człowieka nad stosowaniem AI jest niezbędny – podkreślił dr Pinto dos Santor. Zwrócił też uwagę na już istniejące niespójności między rozwiązaniami AI.

– W naszej klinice stosujemy systemy AI do wykrywania guzków na zdjęciach rentgenowskich klatki piersiowej. Pomimo, że są to certyfikowane wyroby medyczne, każdy system daje inne wyniki. Niespójności występują nawet między różnymi wersjami tego samego oprogramowania.

Równoważenie innowacji z przepisami

Sonja Wehsely, dyrektor na Europę Środkowo-Wschodnią i Azję Środkową w Siemens Healthineers i członek zarządu COCIR, ma duże wątpliwości, czy EU AI Act przyspieszy czy zablokuje innowacje.

– Mam nadzieję, że za półtora roku będziemy mogli powiedzieć, że nowe przepisy wzmocniły branżę. Na chwilę obecną trudno prognozować, jak się stanie naprawdę, bo wszystko zależy od tego, jak ustawa zostanie wdrożona w życie – powiedziała Wehsely zaznaczając, że przemysł technologii medycznych już teraz musi się mierzyć z rozporządzeniem w sprawie wyrobów medycznych (MDR) i rozporządzeniem w sprawie wyrobów medycznych do diagnostyki in vitro (IVDR). Te regulacje unijne zwiększyły koszty wprowadzania wyrobów medycznych na rynek europejski i spowolniły innowacyjność sektora. Biorąc pod uwagę rosnącą konkurencyjność ze strony USA i Chin, to nie jest dobra wiadomość dla Europy.

Sztuczna inteligencja w praktyce klinicznej

Podczas gdy ustawa o sztucznej inteligencji ma na celu wspieranie rozwoju innowacji, jej wdrożenie w życie będzie dużym wyzwaniem. Dr Santos twierdzi, że rozwiązania AI dostępne obecnie na rynku niekoniecznie są tymi, których najbardziej potrzebujemy.

– Wiele rozwiązań AI pomaga lekarzom, ale ich wpływ na pracę kliniczną nie jest rewolucyjny. Nawet jeśli są to rozwiązania przetestowane w warunkach klinicznych, pozostaje pytanie, czy naprawdę wspierają opiekę nad pacjentem, wnoszą nową wartość – mówił dr Santos podkreślając, że jeśli coś “można” zrobić z pomocą AI, nie oznacza to automatycznie, że warto albo “trzeba” to robić. AI nie jest sztuką dla sztuki.

Nie brakuje jednak dobrych systemów AI. Wehsely przywołała przykład oprogramowania, które dzięki nowemu modelowi AI pozwala o 60% skrócić czas badania MRI z opracowaniem wyników, poprawiając przepustowość badań i znacznie obniżając koszty energii.

Niska jakość danych może spowolnić wdrażanie sztucznej inteligencji

Przeszkodą w wykorzystaniu AI jest nadal niska jakość danych. Dane medyczne są rejestrowane w nieustrukturyzowany sposób, często zawierają błędy albo są niepełne. A to oznacza, że trenowane na nich modele też nie będą doskonałe, co z kolei znacznie obniży zaufanie lekarzy do AI. Przedstawiciel Komisji Europejskiej podkreślił, że właśnie dlatego powstała Europejska Przestrzeń Danych Medycznych EHDS – dzięki niej, powstaną repozytoria danych ochrony zdrowia do wtórnego wykorzystania, np. w badaniach nad nowymi lekami albo tworzenia polityki zdrowotnej opartej na faktach.

Sukces ustawy o sztucznej inteligencji będzie zależał od jej praktycznego wdrożenia, w szczególności w koordynacji z istniejącymi przepisami, takimi jak MDR. Wszyscy czekają na pierwsze rekomendacje opracowane przez Europejskie Biuro ds. AI, bo to one przetłumaczą EU AI Act na konkretne zasady.

– Niektórzy mogą nazywać Akt w sprawie AI kolejnym obciążeniem administracyjnym. Ja nazywam tę regulację gwarantem przejrzystości sztucznej inteligencji – powiedział Marco Marsella, podkreślając, że razem z takimi inicjatywami takimi jak Europejska Przestrzeń Danych Zdrowotnych, EU AI Act zagwarantuje, że sztuczna inteligencja poprawi opiekę nad pacjentami bez uszczerbku dla ich bezpieczeństwa.

Czytaj także: Roboty i VR na sali operacyjnej są często na pokaz