2 lutego 2025 r. w życie weszła pierwsza z kilku regulacji EU AI Act. Chodzi o zakaz stosowania systemów sztucznej inteligencji najwyższej klasy ryzyka. Komisja Europejska opublikowała projekt wytycznych. Wiele przykładów odnosi się do systemów AI w ochronie zdrowia, jak np. chatboty.

Co wytyczne EU AI Act mówią o AI w ochronie zdrowia?

Komisja Europejska opublikowała „Wytyczne dotyczące zakazanych działań w zakresie sztucznej inteligencji” zawierające przegląd praktyk zakwalifikowanych jako niedopuszczalne zgodnie z art. 5 EU AI Act. Do zakazanych w ochronie zdrowia systemów należą następujące kategorie AI :

Systemy manipulujące pacjentem i wprowadzające go w błąd. Chodzi o AI wykorzystujące techniki podprogowe lub manipulacyjne w celu wpływania na zachowania konsumentów oraz pacjentów, a które mogłyby prowadzić do szkód zdrowotnych. Przykładowo: rozwiązania AI sugerujące pacjentom decyzje medyczne na podstawie zmanipulowanych algorytmów, bez pełnej transparentności działania. Jednak jeśli zdrowie jest celem nadrzędnym, takie systemy mogą być stosowane, o czym piszemy w dalszej części artykułu.

Eksploatacja wrażliwych grup pacjentów. Zabronione jest też stosowanie AI, która celowo wykorzystuje tzw. wrażliwości grup konsumentów wynikające z wieku, niepełnosprawności lub sytuacji ekonomicznej. Przykładem mogłoby być AI sugerujące nadmierne lub niepotrzebne leczenie pacjentom w trudnej sytuacji życiowej albo upośledzonych psychicznie.

Scoring w ochronie zdrowia. EU AI Act wprowadza kategoryczny zakaz systemów oceny obywateli na podstawie ich zachowań. Tutaj Komisja Europejska ma na myśli wprowadzane pilotażowo w Chinach tzw. systemy oceny społecznej z dodatnimi punktami za przestrzeganie przepisów i ujemnymi za ich łamanie. Takie rozwiązania są niezgodne z demokratycznymi wartościami UE. W odniesieniu do ochrony zdrowia, zabronione są np. systemy AI, które oceniałyby pacjentów na podstawie ich zachowania, stylu życia lub innych cech społecznych i na tej podstawie ograniczające dostęp do świadczeń zdrowotnych albo dopasowujące wysokość składki zdrowotnej. Takie podejście mogłoby prowadzić do dyskryminacji w solidarnościowym systemie zdrowia.

Systemy oceny ryzyka popełnienia przestępstw. EU AI Act wprowadza też zakaz stosowania AI do przewidywania ryzyka popełnienia przestępstwa na podstawie cech osobowościowych lub wcześniejszych przestępstw i wykroczeń. Te przepis w niewielkim stopniu odnosi się do ochrony zdrowia. Przykładem byłoby klasyfikowanie pacjentów przez algorytmy jako potencjalnie niebezpiecznych.

Nielegalne gromadzenie i przetwarzanie danych biometrycznych. EU AI Act zakazuje masowego zbierania danych biometrycznych, takich jak zdjęcia twarzy czy dane z kamer monitorujących w celu tworzenia baz danych do identyfikacji obywatelu bez ich zgody. W odniesieniu do ochrony zdrowia można sobie wyobrazić system AI do monitoringu zdrowia publicznego zintegrowany z elektroniczną dokumentacją medyczną, pozwalający wyłapywać w miejscach publicznych osoby z chorobami zakaźnymi. To godzi w prywatność pacjentów.

Systemy rozpoznawania emocji. EU AI Act wprowadza też słuszny zakaz wykorzystywania AI do identyfikacji emocji na podstawie np. głosu, ruchów albo wyrazu twarzy. Takie systemy mogłyby prowadzić do nieuzasadnionej inwigilacji i naruszenia prywatności. W ochronie zdrowia regulacja przewiduje jednak wyjątek: takie rozwiązania AI są dopuszczone jeśli mają jasno określony cel medyczny. Przykładowo: diagnoza pacjenta na podstawie głosu albo ruchów.

Czy chatboty zdrowotne będą dozwolone? Tak, ale z wyjątkami

Unijne regulacje dotyczące AI wysokiego ryzyka obejmują technologie, które mogłyby prowadzić do manipulacji, dyskryminacji czy naruszenia prywatności pacjentów. Wytyczne jednak dopuszczają bardzo szerokie stosowanie AI w ochronie zdrowia np. do diagnozy czy terapii. Przykładowo, do systemów wysokiego ryzyka nie należą chatboty albo roboty pomagające osobom starszym czy z chorobami przewlekłymi w codziennym życiu, pozwalające diagnozować choroby na wczesnym etapie albo oferujące wsparcie psychologiczne i ćwiczenia fizyczne. Dopuszczone jest też gromadzenie i przetwarzanie danych, które są istotne i niezbędne do określonego celu zdrowotnego. Wytyczne podają przykład danych dotyczące zdrowia zebranych z różnych źródeł w celu trenowania algorytmów AI do lepszego screeningu pacjentów.

Ale już ogólne monitorowanie biomarketów np. poziomu stresu w miejscu pracy jest zabronione. Można sobie wyobrazić system AI analizujący pracowników i wykrywający wypalenie zawodowe lub depresję. Takie rozwiązania są niedopuszczalne, bo mają ukryty kontekst zastosowania. Podobnie jak chatboty wykorzystujące indywidualne słabości użytkownika, aby sterować jego zachowaniem. Przykładowo, chatbot sugeruje osobie z nadwagą wyczerpujący program ćwiczeń. W takim przypadku prawodawca mówi już o znacznym naruszeniu autonomii jednostki i zniekształcaniu zachowania niektórych użytkowników, które może być potencjalnie szkodliwe. Pod tę kategorię podchodzą też chatboty AI promujące samookaleczenie, zachęcające do popełnienia samobójstwa lub wyrządzenia krzywdy innym osobom.

Skomplikowana może być interpretacja wytycznych mówiących o systemach AI wywołujących niepokój psychiczny u użytkownika. Przykładem jest system AI, który skutkuje szkodami fizycznymi, takimi jak bezsenność. Autorzy opublikowanego dokumentu mówią też o zakazie „nękania przez sztuczną inteligencję”, które może prowadzić do stresu psychicznego i fizycznych objawów stresu, takich jak bezsenność, pogorszenie zdrowia fizycznego lub osłabienie układu układ odpornościowy.

Wszystko zależy od celu. Chatbot terapeutyczny wspierający pacjentów w zakresie zdrowia psychicznego i pozwalający osobom z niepełnosprawnością umysłową radzić sobie w codziennym życiu jest dopuszczony. Ale taki chatbot nie może już wykorzystywać słabości użytkownika, zachęcając go np. do zakupu drogich produktów medycznych. Na podobnej zasadzie zabronione są systemy AI wykorzystujące słabości psychiczne dzieci.

Zasada zdrowia jako celu wyższego

Szczególnie ciekawe są niektóre wyjątki sugerujące, że AI może stosować techniki podprogowe, gdy celem wyższym jest zdrowie. Przykładem jest chatbot terapeutyczny wykorzystujący metody socjotechniki, którego celem jest nakierowanie użytkowników na zdrowszy styl życia albo nakłonienie do zerwania ze złymi nawykami, jak palenie papierosów.

„Nawet jeśli użytkownicy – którzy stosują się do porad chatbota i terapii podprogowej – doświadczają pewnego dyskomfortu fizycznego i stresu psychicznego z powodu wysiłku włożonego w rzucenie palenia, nie można uznać, że chatbot AI może wyrządzić znaczącą szkodę. Taki tymczasowy dyskomfort jest nieunikniony i przeważają nad nim długoterminowe korzyści dla zdrowia użytkowników. Nie ma żadnych ukrytych prób wpływania na podejmowanie decyzji poza promowaniem zdrowych nawyków” – czytamy w wytycznych. EU AI Act dopuszcza też zastosowania terapeutyczne AI w postaci wyrobów medycznych oznaczonych znakiem CE.

Opublikowane wytyczne stanowią interpretację wymogów nakładanych przez EU AI Act. Dokument nie ma charakteru wiążącego – Komisja Europejska zatwierdziła projekt wytycznych, ale nie zostały jeszcze one formalnie przyjęte. Za egzekwowanie nowych przepisów odpowiedzialne będą krajowe organy nadzoru oraz Europejski Inspektor Ochrony Danych. Za ich naruszenie grożą kary w wysokości do 35 mln euro lub 7% rocznego obrotu przedsiębiorstwa.

Kliknij tutaj, aby pobrać wytyczne (PDF, język angielski): Commission Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689 (AI Act)

Czytaj także: Komu EU AI Act wyjdzie na dobre, a komu zaszkodzi?

Co roku na największych na świecie targach CES w Las Vegas prezentowane są nowości elektroniki użytkowej, które w kolejnych miesiącach trafią na rynek. Wśród nich są premiery mogące przyspieszyć rozwój nauk medycznych, jak przykładowo mini-superkomputer NVIDIA o mocy 1000-razy większej niż laptop, ale i zabawne gadżety jak robot Mirumi. Wybraliśmy kilka najciekawszych nowości.

Mirumi. Najdziwniejszy i najsympatyczniejszy robot

To dający do myślenia paradoks: podczas CES, super-nowoczesne humanoidy nie przyciągnęły tyle uwagi co Mirumi – mały, pluszowy robot, którego głównym zadaniem jest… zabawianie ludzi. Przyczepiony do uchwytu torby albo plecaka, Mirumi obserwuje świat wokół obracając głowę. Dzięki wbudowanym czujnikom, kiedy się do niego przybliżymy, chowa twarz. I to dokładnie wszystkie funkcje Mirumi. Według producenta – firmę Yukai Engineering – robot ma wzbudzać pozytywne emocje, śmieszyć i w ten sposób inicjować interakcje międzyludzkie. Mirumi skradł serca swoją nieśmiałością i pluszowym wyglądem. Robot został stworzony dzięki akcji crowdfundingowej i ma być wkrótce dostępny w cenie ok. 70 dolarów.

Omnia inteligentne lustro AI. Profilaktyka w łazience

Withings, francuski producent urządzeń do monitorowania parametrów zdrowia, ma już w swojej ofercie inteligentne zegarki, inteligentne materace, inteligentne ciśnieniomierze. Podczas CES 2023 zaprezentował U-Scan, czyli domowe laboratorium moczu, a na CES 2024 – BeamO, urządzenie mierzące parametry zdrowia 4-w-1.

W tym roku Withings nie zwalnia i prezentuje Omnię – inteligentne lustro wykonujące pełne skanowania ciała i analizę jego składu. Lustro zbiera dane z innych urządzeń Withings, analizuje je i daje użytkownikom wskazówki zdrowotne. Może także posłużyć do wizyt telemedycznych. Lustro można pytać o stan zdrowia, bo ma wbudowany system sztucznej inteligencji oparty na dużych modelach językowych, podobnych do ChatGPT. Na razie to produkt w fazie koncepcyjnej i nie wiadomo kiedy i czy w ogóle trafi na rynek.

Elektryczna łyżka Kirin. Sprytny sposób na zdrowe odżywianie się

Statystyczny Polak spożywa ok. 10,8 g soli dziennie, czyli dwie płaskie łyżeczki. To dwa razy więcej niż zaleca Światowa Organizacja Zdrowia (WHO). Nadmiar potasu w diecie może mieć groźne konsekwencje dla zdrowia, prowadząc do nadciśnienia krwi, udaru mózgu, niewydolności i zawału serca, raka żołądka.

Ale co zrobić, gdy niedosolony obiad smakuje mdło i psuje całą przyjemność delektowania się jedzeniem? Japońscy inżynierowie znaleźli na to sposób. Wystarczy zastąpić zwykłą łyżkę elektryczną łyżką Kirin. Wysyłając niewielkie napięcie elektryczne do języka, e-łyżka pobudza receptory smakowe tak, aby jedzenie o niskiej zawartości soli smakowało jak dobrze posolone. Innowacja jest już dostępna w Japonii. Czekamy na podobne urządzenie, które oszuka kubki smakowe odpowiedzialne za słodki smak.

Inteligentny pierścień Circular Ring 2. Monitoring zdrowia w wersji premium

Kiedyś EKG można było wykonać tylko u lekarza, potem z pomocą nakładki na smartfona, następnie – inteligentnego zegarka, a teraz – biżuterii. Funkcję pomiaru EKG jako pierwszy na świecie ma Circular Ring 2. W odróżnieniu od największych konkurentów jak Oura Ring czy Samsung Galaxy Ring, Circular może tym samym wykryć migotanie przedsionków. Według deklaracji firmy, funkcja została zatwierdzona przez Amerykańską Agencję ds. Żywności i Leków (FDA). Oczywiście mierzy też inne parametry zdrowia jak nasycenie krwi tlenem, temperaturę ciała, puls, VO2max (wydajność oddechowa), cykle snu, zmienność rytmu serca, poziom energii i stresu. Wbudowany budzik – gdy przyjdzie pora pobudki – inicjuje delikatne wibracje na palcu.

Towarzysząca pierścieniowi aplikacja Kira ma wbudowanego asystenta AI, który tłumaczy wyniki pomiarów. Cena – 380 USD.

Ozlo Sleepbuds. Niezakłócony sen, nawet gdy ktoś obok chrapie

Słuchawki w roli zatyczek do uszu. Tak miękkie, że można bez problemu spać na boku bez uczucia ucisku albo dyskomfortu. A do tego dobrze przylegające do uszu, aby nie wypadły w nocy. Ozlo Sleepbuds mogą odtwarzać dźwięki blokujące hałas otoczenia nawet do 10 godzin bez konieczności połączenia ze smartfonem przez bluetooth. Kiedy sensory biometryczne wykryją moment zaśnięcia, odtwarzanie maskujących dźwięków jest zatrzymywane. Ale to nie wszystko. W etui wbudowano dodatkowe czujniki światła, hałasu i temperatury, aby monitorować czynniki otoczenia mogące negatywnie wpływać na zdrowy sen. Funkcja alarmu dousznego nie obudzi osoby śpiącej obok. Producent deklaruje, że funkcja tłumienia hałasu jest tak dobra, że blokuje nawet głośne dźwięki chrapania. Cena – 349 euro.

NVIDIA Projekt Digits. Superkomputer dla badań naukowych w medycynie

Lider w produkcji czipów komputerowych, Nvidia, zaprezentował Digits – osobisty superkomputer AI o mocy 1000 razy większej od laptopa. Jest tak mały, że mieści się w dłoni, ale umożliwia korzystanie z pełnej mocy sztucznej inteligencji z 200 miliardami parametrów. Ma kosztować jedynie 3000 dolarów.

Szef NVIDIA, Jensen Huang, przewiduje, że Digits umożliwi wprowadzanie innowacji AI w różnych branżach. Superkomputer NVIDIA może odegrać kluczową rolę w badaniach naukowych w medycynie i farmacji – po raz pierwszy tak mocny system do obsługi AI ma tak niską cenę. W ten sposób, badania np. nad nowymi lekami, wymagające dużych mocy obliczeniowych, stają się dostępne dla szerszej grupy ośrodków naukowych.

L’Oréal, the Cell BioPrint. Domowe laboratorium zdrowej skóry

L’Oréal zaprezentował urządzenie do domowej analizy oraz personalizacji pielęgnacji skóry. Wykorzystując technologię proteomiki, system oblicza wiek biologiczny skóry, identyfikuje biomarkery przyspieszające jej starzenie i przewiduje potencjalne problemy kosmetyczne.

Analiza specjalnym sensorem trwa pięć minut. Po zakończeniu badania, użytkownik otrzymuje personalizowane zalecenia, jak spowolnić proces starzenia, zwiększyć efektywność pielęgnacji skóry i zapobiegać takim problemom, jak przebarwienia i rozszerzone pory. Jak informuje L’Oréal, Cell BioPrint wykorzystuje ponad 100 patentów NanoEnTek do szybkiej i nieinwazyjnej analizy zdrowia skóry. Jego pilotaż zaplanowano na koniec 2025 r., na początek tylko w Azji.

Apogea Ultra. Pomoc dla pielęgniarek i pielęgniarzy

German Bionic wprowadza Apogee Ultra – zrobotyzowany egzoszkielet o „największej mocy na świecie”, a dokładnie z 36-kilogramowym aktywnym wspomaganiem podnoszenia. A to oznacza, że dźwigając ciężar o wadze 41 kg, mamy wrażenie, jakby ważył 5 kilogramów.

Urządzenie ma trafić do branż, które wymagają częstego podnoszenia, jak budownictwo oraz ochrona zdrowia, aby pomóc pielęgniarkom i pielęgniarzom w podnoszeniu i przenoszeniu pacjentów. Egzoszkielet może w ten sposób zmniejszyć liczbę urazów personelu medycznego. Innowacja wykorzystuje sztuczną inteligencję, dostosowując się do ruchów i potrzeb użytkownika.

Czytaj także: CES 2025. Pobierz specjalne wydanie czasopisma OSOZ Polska

Rusza budowa długo oczekiwanego mobilnego systemu lokalizacji Advanced Mobile Location (AML). Ma być gotowy w 2027 roku i kosztować 33 mln zł. Jak pomoże służbom ratunkowym i pacjentom?

Dzwoniąc pod numer ratunkowy 112 osoba wzywająca pomocy musi podać dyspozytorowi informacje o lokalizacji. Jeśli zdarzenie ma miejsce w domu albo mieście, wystarczy ulica i numer domu. Problem pojawia się w razie wypadków i stanów zagrożenia życia w mniej zurbanizowanych obszarach. W stresie i emocjach opisanie miejsca pobytu może być niemożliwe; sytuacja jest krytyczna, gdy wzywający pomocy jest także poszkodowanym i trudno nawiązać z nim kontakt albo jest w szoku. To prowadzi do opóźnienia pomocy, kiedy każda sekunda decyduje o życiu i zdrowiu.

Co to jest i jak działa system AML?

AML to technologia, która automatycznie aktywuje się podczas połączenia na numer alarmowy 112, wykorzystując wbudowane w smartfony funkcje lokalizacyjne, takie jak GPS, Wi-Fi czy dane z sieci komórkowej. W ten sposób dyspozytor numeru alarmowego otrzymuje informacje o miejscu pobytu z dokładnością do kilku metrów, zarówno na otwartej przestrzeni, jak i w pomieszczeniach. Informacje o lokalizacji mogą być przekazywane kilkukrotnie w trakcie trwania połączenia, pozwalając śledzić ewentualne przemieszczanie się osoby potrzebującej pomocy.

Według danych Komisji Europejskiej, AML pozwala skrócić czas dotarcia pomocy o średnio 30 sekund. Dzięki AML można zaoszczędzić od 14 do 45 sekund na każde połączenie alarmowe i poprawia dokładność lokalizacji od 4,6 do 17,9 razy. Te same dane sugerują, że liczba ofiar wypadków, w których AML ma krytyczne znaczenie dla uratowania życia lub zmniejszenia skali obrażeń, wynosi od 5,3 do 18,7 na każde 100 000 połączeń na numer alarmowy w ciągu pierwszych 9 lat po wdrożeniu.

Kolejną zaletą jest fakt, że dyspozytor mający dostęp do danych AML może szybko udzielić pomocy, nawet jeśli osoba dzwoniąca odłoży telefon np. w sytuacji konieczności niesienia pomocy na miejscu.

• Po obliczeniu lokalizacji urządzenia, smartfon automatycznie wysyła wiadomość SMS z szacowaną lokalizacją do dyspozytora. SMS jest wysyłany w tle, podczas gdy dzwoniący rozmawia z organizacją służb ratunkowych.
• Nie jest konieczna aktywacja AML w telefonie, bo jest to funkcja wbudowana w system operacyjny.
• Nawet jeśli usługi lokalizacji w telefonie zostały wyłączone, AML tymczasowo aktywuje usługę lokalizacji na czas trwania połączenia alarmowego.
• Obliczenie i wysłanie lokalizacji osoby dzwoniącej trwa ok. 25 sekund lub krócej.
• Po zakończeniu połączenia alarmowego usługa AML jest dezaktywowana.
• AML nie jest oddzielną technologią w telefonie, ale funkcją wbudowaną w system operacyjny i korzystającą z usług lokalizacyjnych wykorzystywanych także przez inne aplikacje.

AML w Europie

Wprowadzenie AML w Polsce jest zgodne z dyrektywą Europejskiego Kodeksu Łączności Elektronicznej, która nakłada na państwa członkowskie obowiązek implementacji tego rozwiązania.

Ze sprawozdania dla Parlamentu Europejskiego w sprawie skuteczności wdrożenia jednolitego europejskiego numeru alarmowego „112” z grudnia 2024 roku wynika, że dotychczas 15 państw UE zgłosiło dostępność pochodzącej z urządzenia telefonicznego lokalizacji osoby wykonującej połączenie, w tym z pomocą rozwiązania zaawansowanej lokalizacji mobilnej AML.

System nie działa jednak tak jak powinien. Nawet jeśli AML zostało wdrożone, nawet w 60% przypadków służby ratunkowe nie mogą z niego – z różnych przyczyn – skorzystać. Funkcje AML mają od 2016 roku telefony komórkowe oparte na systemie Android (począwszy od wersji 4.1), a urządzenia Apple (począwszy od iOS 11.3) – od 2018 roku.

Problemem pozostaje też działanie systemu podczas pobytu za granicą. Choć AML jest stosowany w 25 państwach członkowskich, Islandii i Norwegii, tylko 8 państw członkowskich potwierdziło, że lokalizacja pochodząca z urządzenia telefonicznego jest dostępna dla użytkowników końcowych korzystających z roamingu. Raport KE wskazuje też, że nadal nie jest wykorzystana opcja lokalizacji AML z pomocą wiadomości SMS, mimo że taka możliwość technicznie jest dostępna.

Ochrona prywatności i bezpieczeństwo danych w AML

System AML jest aktywowany tylko i wyłącznie podczas połączeń na numery alarmowe i nie może być użyty w inny sposób, np. do śledzenia osób. Dane lokalizacyjne są objęte tajemnicą telekomunikacyjną i są przekazywane służbom ratunkowym tylko na czas trwania połączenia. Po tym czasie informacje te są usuwane. Informacja o lokalizacji nie jest zapisywana w pamięci telefonu. AML praktycznie nie można dezaktywować. Nawet jeśli użytkownik, za pomocą opcji w telefonie wyłączy wszystkie usługi lokalizacyjne, AML aktywuje się automatycznie podczas połączenia z numerem alarmowym. Wynika to ze słusznego założenia, że w sytuacji zagrożenia życia, prywatność ma mniejszy priorytet niż udzielenie pomocy. Projekt wdrożenia AML w Polsce jest finansowany ze środków Funduszy Europejskich na Rozwój Cyfrowy 2021–2027. Z kwoty 32 673 112 zł, 79,71% to środki Unii Europejskiej, a 20,29% pochodzi z budżetu państwa. Umowę na budowę AML zawarł Urząd Komunikacji Elektronicznej (UKE) i Ministerstwo Cyfryzacji z Centrum Projektów Polska Cyfrowa (CPPC).

Czytaj także: KPO i CSIRT CeZ, czyli plany Centrum e-Zdrowia na 2025 rok

Centrum e-Zdrowia pracuje nad poprawą cyberbezpieczeństwa placówek zdrowia oraz wykorzystaniem AI dzięki rozwojowi Platformy Usług Inteligentnych. Co chce osiągnąć CeZ pod nowym kierownictwem i czego dotyczy 60 obecnie realizowanych projektów e-zdrowia? Wywiad z dr Małgorzatą Olszewską, Dyrektor Centrum e-Zdrowia.

Jak ocenia Pani Dyrektor rok 2024 w e-zdrowiu w Polsce?

Warto umieścić to pytanie w pewnym kontekście. W drugiej połowie 2024 roku badanie Unii Europejskiej określiło poziom cyfryzacji obszaru ochrony zdrowia w 27 państwach, w tym w Polsce. Nasz kraj zajął wysokie, piąte miejsce, z wynikiem 90% (średnia wyniosła 79%), a zatem już taki wynik może być podstawą do dobrej oceny tego roku właśnie z perspektywy e-zdrowia.

W ostatnim kwartale 2024 r. udało się uruchomić kilka ważnych projektów i procesów, takich jak pilotaż centralnej e-rejestracji czy przygotowanie do realizacji kluczowych zadań związanych z Krajowym Planem Odbudowy. Taka końcówka daje realną nadzieję na dalszy rozwój systemu ochrony zdrowia w Polsce, dzięki nowoczesnym technologiom, narzędziom i systemom opracowywanym i wdrażanym przez Centrum e-Zdrowia. Nie chodzi tu przecież o jakieś punkty, oceny czy zajęcie wyższego miejsca w kolejnym raporcie EU, ale o realną poprawę jakości usług w ochronie zdrowia dla pacjentów oraz komfortu pracy lekarzy i pracowników placówek zdrowia.

I jeszcze jedna, ostatnia refleksja, tym razem w kontekście cyberbezpieczeństwa. Mam nadzieję, że za jakiś czas, może za kilka lat, będziemy wspominać rok 2024 jako moment, w którym zmieniło się podejście do kwestii bezpieczeństwa wrażliwych danych medycznych oraz zapewnienia ciągłości działania systemów i usług w obszarze zdrowia. To rok, w którym na poważnie zajęliśmy się budowaniem zespołu CSIRT CeZ, pełniącego obowiązki sektorowego zespołu reagowania na incydenty bezpieczeństwa komputerowego, a w grudniu podpisaliśmy porozumienia o współpracy w tym obszarze z Instytutem NASK, Wojskami Obrony Cyberprzestrzeni oraz Centralnym Biurem Zwalczania Cyberprzestępczości. Pierwsze rezultaty tych działań są już widoczne – do CSIRT CeZ trafia bezpośrednio coraz więcej zgłoszeń incydentów bezpieczeństwa w sektorze ochrony zdrowia, niemalże cały czas prowadzimy też szkolenia w tym zakresie, adresowane do różnych grup odbiorców w sektorze ochrony zdrowia, szykowane są kolejne porozumienia usprawniające współpracę w tym obszarze, np. z Zakładem Ubezpieczeń Społecznych.

Kierownictwo nad Centrum e-Zdrowia przejęła Pani we wrześniu 2024. Jakie wnioski i przemyślenia ma Pani po kilku miesiącach pracy w CeZ? Co Panią najbardziej zaskoczyło?

Tempo rozwoju nowych technologii, w tym robotyki i sztucznej inteligencji, dzięki której możliwe jest przetwarzanie i analizowanie dużych zbiorów danych w krótkim czasie, co prowadzi do szybszego i skuteczniejszego podejmowania decyzji. Dane od podmiotów świadczących usługi zdrowotne w Polsce wskazują, że obecnie ponad 16% z nich wykorzystuje AI do wspomagania decyzji klinicznych, prawie 12% w tomografii komputerowej, a 11% w rezonansie magnetycznym. Badania wykazują również wyższą skuteczność zastosowania AI w przy wspomaganiu pracy diagnostów (m.in. w diagnozie raka piersi) w porównaniu do tradycyjnych metod, takich jak mammografia.

Wszystkie te trendy wskazują, że sztuczna inteligencja będzie odgrywała coraz ważniejszą rolę w obsłudze telemedycyny i poprawie dostępu do opieki zdrowotnej, umożliwiając zdalne monitorowanie pacjentów oraz wspieranie procesów diagnostycznych. Musimy być gotowi na jej szerokie wdrożenie, zarówno w kontekście diagnostyki, jak i ogólnej obsługi pacjentów.

14 stycznia zakończył się projekt „Strategiczny plan dalszego rozwoju e-zdrowia w Polsce”, realizowany na zlecenie Ministerstwa Zdrowia i Komisji Europejskiej, który wykazał m.in. potrzebę stworzenia centralnej platformy telemedycznej wspierającej integrację systemów i rozwój usług zdrowotnych. Wykorzystanie takich rozwiązań, jak zaawansowane algorytmy AI, pozwoli nie tylko na szybszą diagnozę i leczenie, ale także umożliwi pacjentom łatwiejszy dostęp do usług medycznych, a służbom zdrowia zapewni bardziej efektywne zarządzanie danymi i procesami medycznymi.

CeZ jako jednostka obsługująca Ministra Zdrowia ma już bogate doświadczenie w budowaniu rozwiązań informatycznych dla sektora ochrony zdrowia, ale też mierzy się z wyzwaniami, jak chociażby pogłębione wykorzystanie narzędzi z obszaru sztucznej inteligencji albo wdrożenie e-rejestracji na skalę krajową. Szczególnie zależy nam na tym, aby te rozwiązania były przyjazne i przydatne zarówno pacjentom, jak i pracownikom służby zdrowia.

Jakie ma Pani cele w CeZ? Co jest Pani priorytetem?

Dwa główne cele można scharakteryzować za pomocą kilkunastu liter: KPO oraz CSIRT CeZ. Brzmi to może prosto, ale za tymi hasłami idzie kilkanaście różnych, skomplikowanych, a przede wszystkim niezwykle ważnych projektów, zwłaszcza w przypadku realizacji zadań związanych z Krajowym Planem Odbudowy. Będziemy rozwijać m.in. centralną e-rejestrację, dzięki której mamy szansę w sposób radykalny zmienić już na stałe sposób, w jaki pacjenci będą zapisywać się na wizyty. Natomiast Platforma Usług Inteligentnych może przyczynić się do bardziej powszechnego wykorzystania sztucznej inteligencji w wielu obszarach medycznych, takich jak diagnostyka obrazowa.

Z drugiej strony rośnie rola Centrum e-Zdrowia w ramach Krajowego Systemu Cyberbezpieczeństwa, właśnie w sektorze ochrony zdrowia. Rozwijamy obecnie Zespół Reagowania na Incydenty Bezpieczeństwa, czyli CSIRT CeZ. Stanowi on coraz wyraźniej dostrzegane wsparcie w tym obszarze dla placówek ochrony zdrowia. Realizujemy i będziemy realizować więcej szkoleń, spotkań, konferencji i akcji edukacyjnych, chcemy zorganizować dedykowane wsparcie i dyżury realizowane przez 7 dni w tygodniu. To odpowiedź na konkretne potrzeby – placówki medyczne są na świecie jednym z najczęstszych celów ataków cyberprzestępców,

Nasza ostatnia ankieta, zrealizowana w listopadzie 2024 roku z udziałem ponad 11 tysięcy placówek ochrony zdrowia, wykazała, że blisko trzy czwarte z nich nie ma na pokładzie zespołu ds. cyberbezpieczeństwa, a dodatkowe 15% realizuje takie działania z wykorzystaniem wsparcia z zewnątrz. Blisko połowa placówek zgłasza też potrzebę szkoleń z kompetencji cyfrowych, z czego 40% wprost pyta o kursy z zakresu cyberbezpieczeństwa. Widzimy zatem ogromną potrzebę wsparcia sektora ochrony zdrowia na różnych obszarach, ale zawsze w kontekście cyberbezpieczeństwa – i chcemy to wsparcie zapewnić.

Wszyscy czekają na pieniądze z KPO. Na e-zdrowie ma trafić ok. 4 mld zł i także Centrum e-Zdrowia będzie mocno zaangażowane w realizację nowych inicjatyw. Jak CeZ przygotowuje się na nowe projekty?

Nie nazwałabym tego przygotowaniami – my już działamy, i to maksymalnie intensywnie. Jak wszyscy wiemy, czasu na realizację KPO jest bardzo mało, to zaledwie kilkanaście miesięcy, dlatego liczy się dla nas każdy miesiąc i każdy dzień. Dla przykładu: już kilka miesięcy temu rozpoczęliśmy pracę nad jednym z projektów, czyli Platformą Usług Inteligentnych, która ma zapewnić personelowi medycznemu w Polsce wsparcie sztucznej inteligencji. Przechodzimy już na kolejne etapy rozwoju tego projektu.

Nasz podstawowy cel to wdrożenie rozwiązać technologicznych, które mają poprawić jakość opieki zdrowotnej w Polsce poprzez optymalizację procesów diagnostycznych oraz zwiększenie dostępności usług medycznych, zarówno dla lekarzy, jak i pacjentów. Środkiem do tego celu będzie dostarczenie nowoczesnych narzędzi wspierających analizę stanu zdrowia pacjentów.

Dużo się mówi o AI w ochronie zdrowia. Jakie jest Pani zdanie na ten temat?

Już sam fakt, że rozwój Platformy Usług Inteligentnych będzie jeden z najważniejszych projektów rozwijanych przez Centrum e-Zdrowia w 2025 roku, stanowi w pewnym sensie odpowiedź na to pytanie. Oczywiście zarówno Ministerstwo Zdrowia, jak i podległe mu Centrum e-Zdrowia, widzą korzyści z wykorzystania nowoczesnych technologii z zakresu tzw. sztucznej inteligencji w obszarze zdrowia, ale pod jasno określonymi warunkami.

Będziemy promować te rozwiązania wykorzystujące AI, które są bezpieczne i uzyskały odpowiednie, potwierdzające to certyfikaty. Należy pamiętać, że od 1 stycznia 2025 roku w zaktualizowanym Kodeksie Etyki Lekarskiej w Polsce wprowadzono regulacje dotyczące wykorzystania AI w medycynie. Lekarze mogą korzystać z certyfikowanych systemów AI, ale muszą poinformować o tym pacjenta i uzyskać jego zgodę, jeśli AI wspomaga lekarza w procesie diagnostycznym lub planowaniu terapii. Ważne jest, by lekarze, którym te narzędzia chcemy udostępnić, chcieli z nich korzystać i widzieli w tym wartość dodaną dla swojej pracy.

Faktem jest, że w Polsce mamy też za mało kadr medycznych, choćby radiologów. Nigdy nie możemy jednak zapominać o tym, że nasze działania dotyczą wyłącznie wsparcia lekarzy i personelu placówek ochrony zdrowia, a nie zastępowania ich w jakichś kwestiach. Chcemy dostarczyć im najlepsze, najnowocześniejsze narzędzia i programy, które ułatwią i przyśpieszą działania diagnostyczne. Ale nadal będą to tylko rozwiązania wspomagające, a nie zastępujące człowieka. Na podobnej zasadzie ponad sto lat temu rewolucją wspomagającą lekarzy było chociażby wykorzystanie promieniowania rentgenowskiego, umożliwiającego bezinwazyjne zajrzenie w głąb organizmów pacjentów. Ale aparaty rentgenowskie nie zastąpiły lekarzy – i tak samo nie zastąpią ich narzędzia wykorzystujące algorytmy sztucznej inteligencji czy uczenie maszynowe.

Co jeszcze planuje Centrum e-Zdrowia w 2025 roku? Jakich projektów możemy się spodziewać?

To dość skomplikowane zagadnienie, ponieważ Centrum e-Zdrowia realizuje ponad 60 projektów o zróżnicowanym charakterze i różnych źródłach finansowania. Wiele z nich dotyczy wszystkich osób korzystających z systemu ochrony zdrowia w naszym kraju, jak choćby e-recepty, inne adresowane są tylko do wybranych grup zawodowych lub części pacjentów. Warto też przypomnieć, że znaczna część projektów łączy się z programami unijnymi, takimi jak FERC (Fundusze Europejskie na Rozwój Cyfrowy), FERS (Fundusze Europejskie dla Rozwoju Społecznego) czy Krajowy Plan Odbudowy, któremu poświęciliśmy już w tej rozmowie wiele czasu.

Wybór najważniejszych projektów jest trudny, ponieważ każdy z nich ma istotne znaczenie dla różnych grup odbiorców – i tak właśnie je traktujemy. Z perspektywy ogółu pacjentów istotne będą dwa projekty, mocno rozwijane w 2025 roku. Pierwszy to wspomniana już centralna e-rejestracja, wraz z narzędziami wspierającymi interakcję pacjentów z podmiotami leczniczymi. W perspektywie kilku najbliższych lat oznacza to wygodniejsze zapisywanie się na wizyty, a także szansę na skrócenie czasu oczekiwania i ewentualne wygodniejsze odwoływanie czy zmiany terminów. Mamy nadzieję, że przyczyni się to też do zredukowania liczby niewykorzystanych wizyt pacjentów, w duchu akcji „Odwołuję, nie blokuję”.

Drugim projektem, który w największym stopniu dotyczyć będzie zarówno pacjentów, jak i lekarzy, jest e-Profil Pacjenta. W ramach tego projektu lekarz POZ – za zgodą pacjenta – otrzyma podane w przystępnej, logicznie uporządkowanej formie wszystkie najważniejsze informacje na temat badanej osoby. Dzięki temu lekarz będzie mógł spojrzeć na pacjenta całościowo, co może przyczynić się do wystawienia bardziej trafnej diagnozy.

Gdy przyjmiemy perspektywę placówek ochrony zdrowia, to zapewne wśród najistotniejszych projektów warto wymienić Platformę Usług Inteligentnych, o której wspomniałam już kilkakrotnie. Planujemy także dalszą cyfryzację dokumentów medycznych – kartę e-Dilo, opis badań histopatologicznych i cytologicznych. To są kluczowe dokumenty z punktu widzenia wdrożenia i funkcjonowania Krajowej Sieci Onkologicznej. Mam nadzieje, że w roku 2025 uda nam się także uruchomić platformę e-Konsylium dla lekarzy.

Zakończyła się kolejna edycja badania poziomu informatyzacji placówek zdrowia. Jak wykorzysta Pani jego wyniki?

Tak naprawdę najnowsza edycja tego badania jeszcze się nie zakończyła. Zebraliśmy już oczywiście wszystkie ankiety – ponad 11 tysięcy zebranych ankiet z placówek ochrony zdrowia w Polsce, ale trwa nadal ostateczna analiza uzyskanych odpowiedzi. Część z nich otrzymaliśmy w formie opisowej, bo tego wymagał charakter postawionych w ankiecie pytań.

Natomiast w tym roku zrobiliśmy świadomie coś innego – na szybko, przedpremierowo, przeanalizowaliśmy same pytania z zakresu cyberbezpieczeństwa, przygotowując się do konferencji o tej tematyce, zrealizowanej przez Centrum e-Zdrowia pod koniec 2024 roku. Udało nam się zdążyć dosłownie na dzień przed konferencją! Tak jak wspomniałam już wcześniej, niektóre wyniki potraktować można bardzo alarmująco, jako jednoznaczną potrzebę środowiska i jasne wezwanie do działania właśnie dla Centrum e-Zdrowia, które od 2025 roku pełni kluczową rolę w Krajowym Systemie Cyberbezpieczeńśtwa, oczywiście w obszarze ochrony zdrowia.

Z dokładniejszą analizą najnowszego badania poziomu informatyzacji placówek zdrowia poczekajmy jednak do publikacji pełnego raportu, rysującego dokładniej głębszy kontekst dla poszczególnych pytań i odpowiedzi.

Od lat nie udało się wdrożyć elektronicznej dokumentacji medycznej. Czy nie grozi nam zator spowodowany przeciąganiem się kolejnych projektów e-zdrowia?

Trudno mi się odnieść do tego stwierdzenia. Centrum e-Zdrowia ma jasno określone ramy czasowe realizacji projektów, a wszystkie terminy są dotrzymane, choć rzeczywiście identyfikujemy ryzyko związane z krótkim czasem na realizację projektów w ramach KPO. Jeśli chodzi o dokumentację medyczną, w coraz szerszym zakresie ma ona postać elektroniczną i nic nie zdoła zatrzymać tego trendu. W mojej ocenie umożliwia to zarówno pacjentowi, jak i lekarzowi szybki, cyfrowy dostęp do danych medycznych, a także pełniejszy obraz analizy zdrowia pacjenta.

Spodziewamy się zauważalnego wzrostu wykorzystywania EDM w wielu aspektach, chociażby ze względu na zbliżające się wprowadzenie zasad transgranicznej wymiany i dostępu do danych medycznych w całej Unii Europejskiej. Wymiana danych dotyczących zdrowia we wszystkich państwach członkowskich ma się rozpocząć w 2028 roku, a dodatkowe kategorie danych zostaną dodane dwa lata później.

Finansowanie Centrum e-Zdrowia nie zwiększyło się drastycznie w ostatnich latach, ale liczba zadań – tak. Czy Centrum będzie w stanie je zrealizować?

Jesteśmy w ścisłym kontakcie z Ministerstwem Zdrowia w celu kontynuowania rozpoczętego w 2023 r. procesu zapewnienia w CeZ kluczowych zasobów do utrzymania i rozwoju systemów informatycznych. W ubiegłym roku dostaliśmy pulę nowych etatów, także na stworzenie CSIRT CeZ. Jesteśmy operatorem usług kluczowych, co też stawia przed nami określone wymagania, zbieramy przecież dane medyczne wszystkich Polaków. W związku z uruchomieniem KPO, CeZ otrzyma w ramach konkursu także środki finansowe na realizacje projektów, więc tak naprawdę chodzi bardziej o czas, bo mój zespół jest mocno zmotywowany, by je zrealizować.

Czego życzyłaby Pani Dyrektor digitalizacji ochrony zdrowia na 2025 rok?

Życzę nam wszystkim jakościowych, nowoczesnych technologicznie rozwiązań z zakresu e-zdrowia – dla pacjentów, dla lekarzy, dla personelu placówek medycznych.

A także życzę, by wszystko to odbywało się w sposób bezpieczny. Najpierw bezpieczny dla bardzo wrażliwych danych, jakimi są dane medyczne pacjentów. Następnie bezpieczny dla wielu systemów i usług medycznych, od których ciągłego i sprawnego funkcjonowania zależy zdrowie pacjentów i komfort pracy personelu medycznego. Placówki medyczne są jednym z najczęściej atakowanych obiektów – niektóre badania wskazują na to, że co piąty cyberatak kierowany jest właśnie na nie. Digitalizacja ochrony zdrowia w Polsce to pozytywne zjawisko, które niesie ze sobą ogrom korzyści, o których już rozmawialiśmy. Ale musimy mieć świadomość, że wraz z korzyściami pojawia się też więcej zagrożeń, dlatego tak duży nacisk kładziemy na cyberbezpieczeństwo w tym sektorze.

Czytaj także: 8 nowości technologicznych i 7 robotów dla zdrowia 2025

W lutowym numerze OSOZ Polska (2/2025) m.in. 8 innowacji i 7 robotów dla zdrowia z targów CES 2025, które zachwyciły publiczność i wkrótce trafią do naszych domów.

Tematy numeru:

• Dyrektor Centrum e-Zdrowia, Małgorzata Olszewska, o priorytetach digitalizacji 2025
• Jak szwajcarski szpital wdraża z powodzeniem duże modele językowe?
• Jaka jest przyszłość operacji wspomaganych robotycznie?

KLIKNIJ TUTAJ, aby pobrać bezpłatnie specjalne e-wydanie OSOZ (111 stron, PDF)

Spis treści:

• Agenci AI. Umówią do lekarza, zorganizują podróż. Kiedy z nich skorzystamy?
• 72% podmiotów nie ma zespołu ds. cyberbezpieczeństwa. Konferencja Centrum e-Zdrowia
• Projekty. Nowoczesny system lokalizacji osób wzywających pomocy AML wchodzi do Polski
• Trendy. Czy VO2 max naprawdę jest miernikiem długowieczności?
• Aplikacja miesiąca. Fastic AI policzy kalorie i zaplanuje dietę
• Robotyka. 7 zadziwiających robotów 2025 dla zdrowia i dobrego samopoczucia
• Raport Future Today Institute. AI już rewolucjonizuje medycynę I farmację
• Premierowe technologie dla zdrowia 2025. 8 innowacji z targów CES 2025
• Magia operacji wspomaganych robotycznie. Wywiad z dr Mateuszem Jobczykiem
• Czy AI zniszczy relację pacjenta z lekarzem? Wywiad z Jakubem Adamskim
• Ten szpital w Szwajcarii wdraża LLM. Wywiad z Bramem Stieltjes
• Ochrona danych. Komisja Europejska wdroży plan cyber-ochrony sektora zdrowia
• Priorytety Centrum e-Zdrowia na 2025 r. Wywiad z dr Małgorzatą Olszewską, Dyrektor CeZ
• Zamieszanie wokół AI. Jaką rolę odegra sztuczna inteligencja w ochronie zdrowia 2025?
• Badania naukowe. Model AI przewiduje nastrój na podstawie danych dotyczących snu
• Komunikacja. Jak powinien zareagować lekarz, gdy pacjent diagnozuje się z pomocą ChatGPT?
• Komisja etyki AI. 4 trudne kwestie etyczne podczas stosowania sztucznej inteligencji
• Systemy IT. Podsumowanie roku 2024 w medycynie i farmacji

Wszystkie wydania archiwalne dostępne są na zakładce POBIERZ.

Mało znany chiński startup DeepSeek zaprezentował model AI, który jest tak dobry albo nawet lepszy niż ChatGPT, a jego opracowanie kosztowało tylko 6 mln USD, czyli 40 razy mniej niż w przypadku konkurencji. Jeśli to prawda, jesteśmy świadkami „momentu Sputnika”.

Chiny przejmują pozycję lidera AI

Kiedy w 1957 roku ZSRR wystrzeliły niespodziewanie w kosmos pierwszego sztucznego satelitę „Sputnik”, Związek Radziecki w jeden dzień przejął pozycję lidera w wyścigu o dominację w kosmosie. Upokorzone USA nie mogły tego tak zostawić i 12 lat później, w 1969 roku, odzyskały miejsce na podium dzięki zakończonej sukcesem pierwszej załogowej misji na Księżyc Apollo 11.

Moment Sputnika w przypadku AI to analogia do zaskakującego postępu, którego nikt nie przewidział. Tym razem Chińczycy pokazują USA, kto rozdaje karty w grze o nowe technologie. O tym, jak bardzo DeepSeek zaskoczył rynek, świadczy tąpnięcie na giełdzie. Akcje Nvidii, światowego lidera produkcji mikro-chipów, straciły 17% na wartości, co przelicza się na 279 miliardów USA.

Dlaczego to Nvidia ucierpiała najmocniej? Od 2022 roku – czyli premiery ChatGPT – liderzy modeli generatywnej AI jak OpenAI, Microsoft albo Google napędzają popyt na chipy wysokiej wydajności, bo trenowanie i rozwój coraz to wydajniejszych modeli wymaga coraz to większych mocy obliczeniowych. Na tym boomie korzystała przez ostatnie lata właśnie Nvidia, której procesory stosowane są w komputerach i centrach obliczeniowych na całym świecie.

Bezprecedensowy postęp AI czy tylko propagandowy show?

Co jeśli opracowanie modeli generatywnej AI jak ChatGPT (OpenAI), Gemini (Google) czy AI Pilot (Microsoft) wcale nie wymaga tak potężnych mocy obliczeniowych, jak dotąd uważaliśmy, a co potwierdza DeepSeek? Porównajmy: DeepSeek twierdzi, że wytrenowanie jego modelu zajęło jedynie dwa miesiące i kosztowało ok. 6 mln USD. W przypadku najnowszego modelu ChatGPT, kwota ta była nawet 40-krotnie wyższa. Do tego nowe modele DeepSeek, V3 i R1, nie tylko są równie dobre, ale czasami nawet lepsze w radzeniu sobie z różnymi zapytaniami.

Historia DeepSeek dzieli opinię publiczną. Dla jednych to klasyczny przykład, że „potrzeba jest matką wynalazku” – z powodu amerykańskich sankcji eksportowych, DeepSeek miał ograniczony dostęp do układów scalonych i został zmuszony do znalezienia innego sposobu trenowania modeli, w tym do skorzystania z dostępnych rozwiązań open-source. Nie mając wystarczającej ilości chipów, firma zmieniła o 360 stopni dotychczasowe podejście do tworzenia modeli AI, co okazało się strzałem w dziesiątkę.

Są jednak i tacy, którzy twierdzą, że nie powinniśmy ślepo wierzyć w informacje deklarowane przez twórców DeepSeek. Prawda o czasie i kosztach rozwoju AI być może być znacznie inna niż informacje przekazane przez firmę. Do tego DeepSeek jest ocenzurowany. Przykładowo, nie odpowie na pytania o wydarzenia z 1989 roku na placu Niebiańskiego Spokoju (Tiananmen) w Pekinie oraz jasno daje do zrozumienia, że Tajwan to część Chin. W audycie precyzji dostarczania informacji NewsGuard, DeepSeek osiągnął jedynie 17% dokładności, zajmując 10. miejsce na 11., plasując się daleko za takimi konkurentami jak ChatGPT od OpenAI i Gemini od Google.

Geopolityczna wojna potęg AI

Spekulacje podkręca data premiery DeepSeek, zaledwie kilka dni po tym, jak Prezydent Donald Trump ogłosił bezprecedensowy program rozwoju sztucznej inteligencji i inwestycje w AI o wartości 500 mld USA. Czy to zbieg okoliczności, czy zaplanowany ruch Chin w wojnie gospodarczej z USA? Prezydent Trump nazwał nawet DeepSeek „momentem przebudzenia” dla amerykańskich firm AI. Chiny od dawna nie ukrywają, że ich celem jest dominacja w dziedzinie sztucznej inteligencji. Potwierdzają to liczby: ok. 60% patentów na innowacje AI rejestrowanych jest w Chinach, w USA – jedynie 20%. Europa z 3% nie liczy się w tym wyścigu.

Zakłócenia na giełdzie po premierze DeepSeek pokazują czarno na białym, że wkraczamy w erę, w której siła konkurencyjna państw będzie mierzona kondycją gospodarek cyfrowych. Akcje Nvidia czy Meta zanurkowały, bo okazało się, że są inne firmy, które potrafią tworzyć AI lepiej, szybciej i taniej. W globalnej gospodarce nie ma znaczenia, gdzie te firmy mają siedzibę.

Czytaj także: Dlaczego i jak KAMSOFT wprowadza AI do systemów IT?

W prasie czytamy, że sztuczna inteligencja diagnozuje dokładniej niż lekarze i jest bardziej empatyczna niż człowiek, a do tego otrzymuje dużo lepsze wyniki na egzaminach medycznych niż studenci medycyny. A jaka jest prawda?

Dlaczego AI diagnozuje lepiej niż lekarz korzystający z pomocy AI?

W przeprowadzonym przez Andrew S. Parsonsa z UVA Health (USA) badaniu wzięło udział 50 lekarzy medycyny rodzinnej, chorób wewnętrznych i medycyny ratunkowej. Podzielono ich na dwie grupy i postawiono przed nimi zadanie diagnozowania skomplikowanych przypadków klinicznych. Pierwsza grupa otrzymała do pomocy ChatGPT w wersji premium (Plus). Druga mogła kierować się tylko swoją wiedzą medyczną i dotąd obecnymi narzędziami jak Google albo systemy wspomagania decyzji klinicznych. O diagnozę zapytano też ChatGPT. Zebrane wyniki diagnoz porównano między sobą. Grupa bez ChatGPT uzyskała 74% dokładności, a grupa z ChatGPT niewiele więcej, bo 76%. ChatGPT samodzielnie uzyskał aż 90% skuteczność.

Naukowcy byli zdezorientowani: ChatGPT nie pomógł lekarzom lepiej diagnozować chorób. Jedną z interpretacji było założenie, że lekarze nie kierowali się podpowiedziami sztucznej inteligencji, gdy się z nimi nie zgadzali, ufając bardziej swojej wiedzy i doświadczeniu niż chatbotowi. W psychologii mówi się o tzw. błędzie autorytetu (ang.: authority bias). Pojawiły się głosy, że to źle wróży współpracy lekarza z AI, bo ten pierwszy i tak nie słucha opinii z zewnątrz. Jednak jak wyjaśnił twórca badania, powód mógł być inny: wielu lekarzy po prostu nie wiedziało, jak korzystać z ChatGPT i jak w poprawny sposób pisać tzw. prompty (zapytania).

Autorzy badania sugerują jednak, że wyższa precyzja diagnoz osiągnięta, gdy ChatGPT samodzielnie oceniał przypadki kliniczne, wskazuje na duży potencjał AI. Naukowcy od lat podkreślają, że o ile lekarze dobrze diagnozują choroby, z którymi najczęściej spotykają się podczas praktyki klinicznej, to w przypadku np. chorób rzadkich albo skomplikowanych i nietypowych schorzeń są mniej skuteczni.

Statystyczny lekarz w swojej pracy ma na ogół do czynienia z ok. 500 różnymi chorobami z ok. 33 000 sklasyfikowanych. Trudno wymagać, aby znał je wszystkie, gdy leczy pacjentów o tym samym profilu demograficzno-społecznym. Ale wówczas pomocne może być AI. Już dzisiaj lekarze powinni mieć dostęp do szkoleń z AI, aby wiedzieć, jak bezpiecznie korzystać z nowych narzędzi jak ChatGPT.

Autor badania, Andrew S. Parsons, powiedział też wprost, że tylko „ułamek lekarzy zdawał sobie sprawę, że mogą dosłownie skopiować i wkleić całą historię leczenia do chatbota i po prostu poprosić go o udzielenie wyczerpującej odpowiedzi na całe pytanie”.

AI wykuła na pamięć pytania z egzaminów medycznych. Ale to nie czyni z niej lekarza

Jeszcze inne badania sugerowały wielokrotnie, że AI udziela bardziej empatycznych, zrozumiałych i wyczerpujących odpowiedzi pacjentom w porównaniu do lekarzy. W prawdziwym życiu, lekarz realizuje wiele innych zadań i uwzględnia nie tylko dane z elektronicznej dokumentacji medycznej, ale także sytuację pacjenta (rodzinną, społeczną, finansową), jego potrzeby; prognozuje potencjalne skutki leczenia, rozmawia z rodziną, kalkuluje ryzyko w stosunku do korzyści. Nie wspominając o ludzkim czynniku komunikacji z pacjentem, który dla wielu pacjentów może działać jak placebo. Lekarz daje motywację i nadzieję, towarzyszy choremu przez kolejne etapy choroby, wspiera. To element społeczny, którego przez ostatnie lata nie zdołał zastąpić Dr Google całkiem dobrze radzący sobie z diagnozowaniem.

Podobnie mylące mogą być badania porównujące wyniki ChatGPT i lekarzy studentów w amerykańskim egzaminie medycznym (United States Medical Licensing Examination, USMLE).  Najnowszy model generatywnej AI, czyli GPT-4o, uzyskał w testach USMLE prowadzonych od wiosny 2021 r. do jesieni 2023 r. średnią punktów 95,54%, a studenci – 72,15%. Tak, AI ma zaskakująco dobre zdolności kognitywne, ale rolą lekarze nie jest zdawanie egzaminów medycznych.

Doniesienia o AI lepszej niż lekarze są sposobem na przyciągnięcie uwagi, ale nie pokazują potencjału zastosowania AI w warunkach klinicznych, a jedynie laboratoryjnych. Wprowadzają w błąd i szkodzą debacie o obiecującej roli AI w medycynie. AI to nadal technologia nowa, która jednych zachwyca, a innych przeraża. I te emocje często dominują, podczas gdy naukowcy zgadzają się, że AI może pomóc lekarzowi, ale nie jest w stanie go zastąpić. Zwłaszcza generatywna AI, która jest bardzo dobrą maszyną statystyczną, ale nie może równać się z kompetencjami człowieka.

Czytaj także: Chatbot Eliza z 1966 r. i fenomen iluzji myślącej maszyny

Aby Polska mogła skutecznie wdrażać rozwiązania sztucznej inteligencji (AI) i technologie cyfrowe w ochronie zdrowia, musimy skoncentrować się na kilku kluczowych zmianach.

Adw. Michał Chodorek, Partner w Kancelarii Prawnej KRK Kieszkowska Rutkowska Kolasiński

Priorytet 1: Rozwój mechanizmów finansowania

Przeszkodą dla wdrażania rozwiązań AI w ochronie zdrowia jest brak mechanizmów finansowania publicznego dostosowanych do tych technologii. W Polsce nie ma np. wnioskowej ścieżki refundacji wyrobów medycznych, w tym refundacji cyfrowych wyrobów medycznych. W przeciwieństwie do leków, gdzie istnieje określona ścieżka refundacyjna, rozpoczynana przez firmę, która chce uzyskać refundację, technologie AI są pozbawione możliwości złożenia wniosku o finansowanie z Narodowego Funduszu Zdrowia.

Finansowanie jest dostępne na etapie rozwoju technologii, np. poprzez konkursy Agencji Badań Medycznych albo w ramach innych programów publicznych wspierających rozwój nowoczesnych technologii medycznych, w tym AI.

Ale w momencie, w którym technologia przechodzi z fazy rozwojowej do fazy wdrożeniowej to finansowanie się urywa. Konsekwencją jest brak ciągłości w finansowaniu, co stanowi istotną przeszkodę w komercjalizacji innowacyjnych technologii medycznych, w tym AI.

Powyższa sytuacja jest tym trudniejsza, że wiele ze wspomnianych powyżej programów finansowania publicznego, np. konkursy ABM, wymagają przeprowadzenia wdrożenia technologii, która uzyskała dofinansowanie, w Polskiej gospodarce. Dla medycznych AI, takie wdrożenie do systemu ochrony zdrowia bez funkcjonujących mechanizmów finansowania publicznego, jest trudne, a brak wdrożenia stwarza ryzyko konieczności zwrotu uzyskanych środków.

Priorytet 2: HTA dla software’owych wyrobów medycznych, w tym AI

Niezbędne jest również stworzenie mechanizmów pozwalających na ocenę efektywności kosztowej nielekowych technologii medycznych takich jak software’owe wyroby medyczne, w tym AI.

Wdrożenie powyższych rozwiązań pozwoli też MZ i producentom technologii negocjować zasady finansowania, które uwzględniałyby mechanizmy dzielenia ryzyka oparte o różne sposoby płacenia za efekt – rzeczywiście osiągnięte korzyści terapeutyczne albo oszczędności dla systemu ochrony zdrowia (value based healthcare).

Priorytet 3: Poprawa dostępności do danych medycznych

Bez odpowiedniej ilości i odpowiedniej jakości danych nie da się wytrenować żadnego modelu AI. Jednym z kluczowych problemów utrudniających rozwój technologii AI w Polsce są skomplikowane i restrykcyjne zasady dostępu do danych medycznych do celów rozwoju AI. Najczęściej stosowanym mechanizmem pozyskiwania danych jest zwracanie się o udzielenie zgody na dostęp do danych przez każdego indywidualnego pacjenta.

Dostęp do danych medycznych jest obecnie utrudniony również z powodów praktycznych – brak jest jednej instytucji, do której można by zwrócić się z wnioskiem o udostępnienie danych. Dane trzeba pozyskiwać oddzielnie z każdego podmiotu leczniczego. Takie ograniczenia prawne i faktyczne nie tylko podnoszą koszty pozyskania danych, ale czasami czynią ich zdobycie wręcz niemożliwym.

Dużą zmianę w tym zakresie może przynieść wdrożenie Europejskiej Przestrzeni Danych dotyczących Zdrowia (EU Health Data Space – EHDS). EHDS przewiduje utworzenie krajowych instytucji dostępowych, które będą połączone odpowiednią infrastrukturą IT z wszystkimi podmiotami leczniczymi w kraju, tak aby można było przesyłać między nimi dane medyczne.

W ramach EHDS naukowcy albo firmy, które chcą rozwijać np. wyroby medyczne oparte na sztucznej inteligencji, będą mogły zwrócić się do krajowych instytucji dostępowych o umożliwienie im realizacji projektów badawczo-rozwojowych, na przykład wytrenowania modelu AI, z wykorzystaniem wskazanych przez nich danych medycznych. Instytucja, jeżeli oceni taki wniosek pozytywnie, pozyska dane od właściwych podmiotów leczniczych, dokona ich agregacji i anonimizacji albo pseudonimizacji, i umożliwi wnioskodawcy dostęp do nich w ramach bezpiecznego środowiska przetwarzania danych, administrowanego przez instytucję.

EHDS powinien przynieść poprawę w zakresie ilości i jakości danych medycznych możliwych do wykorzystania w projektach badawczo-rozwojowych oraz obniżyć koszty ich pozyskania, zapewniając jednocześnie należytą ochronę prywatności pacjentów.

Priorytet 4: Wsparcie w badaniach klinicznych

Wprowadzenie na rynek wyrobu medycznego wykorzystującego sztuczną inteligencję wymaga najczęściej przeprowadzenia badań klinicznych, które są kosztownym przedsięwzięciem. Programy publicznego dofinansowania rozwoju technologii powinny być tworzone tak, aby umożliwiać objęcie finansowaniem również kosztów przeprowadzenia badań klinicznych, aby zniwelować tę barierę kosztową.

Edukacja i zmiana podejścia do technologii Nie mniej istotne jest zwiększenie świadomości i wiedzy wśród personelu medycznego oraz decydentów na temat potencjału AI i technologii cyfrowych. Obawy związane z bezpieczeństwem i efektywnością tych rozwiązań, jak również trudności w ich implementacji, mogą być zaadresowane przez efektywne programy edukacyjne lub np. projekty pilotażowe.

Czytaj także: AI zaczyna dościgać ludzi. Raport Uniwersytetu Stanforda

Sprzedaż suplementów diety z magnezem szybko rosła przez ostatnie 5 lat, osiągając swoje maksimum w 2022 roku. Wówczas Polacy kupili w aptekach 12,7 mln opakowań, czyli dwukrotnie więcej niż w 2015 roku. Ale od tego czasu powoli spada. Czy to koniec boomu?

Magnez – nazywany często pierwiastkiem życia – odgrywa ważną rolę w procesach zachodzących w organizmie. Prawidłowy poziom Mg w diecie zmniejsza ryzyko nadciśnienia tętniczego, choroby niedokrwiennej, arytmii i zawału serca, cukrzycy i depresji; poprawia pamięć i koncentrację, reguluje pracę tarczycy, wspomaga leczenie astmy, poprawia trawienie, wzmacnia układ odpornościowy, bierze udział w procesie budowy kości i zębów. Choć zdrowia dieta zaspokaja zapotrzebowanie na magnez, producenci suplementów diety kuszą klientów m.in. obietnicami wzmocnienia układu nerwowego.

W 5 lat ceny środków z magnezem wzrosły dwukrotnie

Jak wynika z analizy danych przeprowadzonej przez ekspertów OSOZ wynika, intensywne kampanie reklamowe mocno napędziły sprzedaż w ostatnich lata. W latach 2003–2015 pacjenci kupili w aptekach od 4,97 mln opakowań (2011 rok) do 6,15 mln opakowań magnezu (2009 rok). W 2016 roku miał miejsce największy wzrost wynoszący 40,22% i od tego czasu rok do roku sprzedaż nieustannie rosła i w 2021 roku przekroczyła ona już 12 mln opakowań (ponad 2-krotnie więcej niż jeszcze w 2015 roku). Poziom ten utrzymywał się aż do 2024 roku.

Przez lata ceny utrzymywały się na wyrównanym poziomie. Średnia cena za pojedyncze opakowanie magnezu zakupione w 2002 roku wynosiła 11,29 zł i rosła bardzo powoli, o kilkadziesiąt groszy co roku. To zmieniło się w 2017 roku, kiedy za wzrostem popytu producenci zaczęli podnosić ceny. Od 2022 roku, wraz z szalejącą inflacją, ceny zaczęły rosnąć jeszcze szybciej, o ok. 3 zł/opakowanie rocznie. W 2024 roku pacjenci musieli zapłacić za opakowanie suplementu z magnezem 27,93 zł, czyli dwa razy więcej niż jeszcze w latach 2015-2017. Rosnące ceny i popyt napędziły przychody producentów, które w latach 205-2024 zwiększyły się niemal 5-krotnie z 69 mln zł do 342 mln zł.

Jednocześnie kurczy się asortyment produktów aptecznych z magnezem. W 2002 roku pacjenci mogli wybierać spośród 117 różnych opakowań magnezu. W kolejnych latach, aż do 2008 roku, liczba produktów wzrastała i ukształtowała się na maksymalnym poziomie 192 opakowań. Od tego czasu asortyment jest coraz uboższy i w 2023 roku liczył sobie już tylko 59 różnych opakowań.

Prognozy dla rynku suplementów diety z magnezem

Zgodnie z prognozami, w latach 2025 i 2026 popyt na magnez w aptece będzie rósł. Wzrosty wartości sprzedaży będą równe analogicznie 5,46% oraz 6,16%. W najbliższych latach wzrastać będzie także sprzedaż, lecz tempo wzrostu będzie już mniej dynamiczne. W 2025 roku sprzedaż będzie równa 12,30 mln opakowań, a w 2026 roku – 12,53 mln opakowań. Nadal będzie rosła cena i w 2025 roku zbliży się do granicy ok. 30 zł.

Analizując dane należy pamiętać, że suplementy diety z magnezem są szeroko dostępne poza aptekami, np. w marketach i drogeriach. Magnez od lat jest liderem w kategorii suplementów diety. Podczas pandemii COVID-19 i do dnia dzisiejszego dogoniła go jednak witamina D. Na kolejnych miejscach są środki wzmacniające odporność organizmu oraz probiotyki. Od lat spada z kolei sprzedaż multiwitamin.

Rynek środków z magnezem rośnie na całym świecie. Jest to stosunkowo tani suplement diety pozycjonowany w reklamach jako posiadający wszechstronne korzyści zdrowotne, uspokajający, ułatwiający zasypianie, wzmacniający system nerwowy oraz „dodający energii”. Prognozy sugerują, że popyt na suplementy z magnezem będzie nadal rósł w związku ze starzejącym się społeczeństwem i większą świadomością znaczenia profilaktyki chorób serca.

Czytaj także: Pobierz pełne wydanie czasopisma OSOZ Statystyki z analizą sprzedaż środków z magnezem

W szpitalu, gdzie lekarze i pielęgniarki są w ciągłym ruchu przemieszczając się od chorego do chorego, mobilne aplikacje IT mogą pomóc pogodzić czas spędzony z pacjentem i przy komputerze. Sprawdzamy rozwiązania, jakie oferuje KAMSOFT.

Szybki dostęp do potrzebnych danych na pierwszy rzut oka

Dzięki aplikacjom mobilnym personel medyczny może mieć dostęp do zgromadzonej w systemie szpitalnym HIS dokumentacji medycznej z poziomu tabletu, na bieżąco sprawdzając stan zdrowia pacjenta przy jego łóżku oraz szybko notując podstawowe dane.

To właśnie prowadzenie obchodu jest krytycznym momentem pracy. Poruszając się po oddziale, pielęgniarka i lekarz podejmują w drodze dziesiątki mikro-decyzji klinicznych i organizacyjnych. Do tego potrzebują dostępu do systemu HIS, aby sprawdzić wyniki badań spływające z laboratorium albo zlecić kolejne badania diagnostyczne i przepisać leki. To muszą być dane zaprezentowane w czytelnej formie, aby były od razu widoczne na ekranie tabletu, prezentujące np. trendy parametrów zdrowia.

Te zadania realizują aplikacje mobilne dla szpitali. KAMSOFT oferuje trzy takie rozwiązania:

• Obchód Lekarski
• Obchód Pielęgniarski
• Karta Anestezjologiczna

Wszystkie są zintegrowane z systemem HIS KS-MEDIS, a każda zmiana wprowadzona podczas obchodu – od zlecenia badań, po notatki o stanie zdrowia pacjenta – jest automatycznie zapisywana w systemie i dostępna dla innych członków zespołu medycznego. Lekarz może jedne dane wpisać na tablecie, a kiedy chce wprowadzić do EDM dłuższe notatki, może to zrobić na komputerze stacjonarnym, na którym pisze się wygodniej niż na tablecie.

Takie rozwiązanie oszczędza czas, zwiększa dokładność dokumentacji, minimalizuje ryzyko błędów i daje pełną elastyczność pracy. Rozwiązania mobilne mają jeszcze jedną zaletę – pozwalają szybko zaczerpnąć informacji o stanie zdrowia i trendach w pomiarach parametrów zdrowia. Przykładowo, wyniki badań są przedstawione w przejrzystych tabelach i wykresach, bez konieczności długiego szukania informacji.

Z aplikacją Obchód Lekarski lekarz wystawi zlecenie podania leków, wykonania badań laboratoryjnych, obrazowych czy konsultacji; doda zdjęcie do dokumentacji pacjenta, przeglądnie pomiary i wyniki badań laboratoryjnych, a także wprowadzi notatki. Dostęp do danych pacjenta – na bieżąco z każdego miejsca w szpitalu, bez konieczności uruchomiania komputera – to wygoda, oszczędność czasu, a przede wszystkim efektywniejszy proces leczenia.  

Obchód Pielęgniarski to z kolei mobilna aplikacja stworzona z myślą o pielęgniarkach, pozwalająca na realizację zleceń lekarskich, przeglądanie i wypełnianie elektronicznej dokumentacji medycznej bezpośrednio przy pacjencie. Pielęgniarka – niezależnie od miejsca pobytu – może wprowadzić do systemu wartości pomiarów, jak np. temperatura ciała czy ciśnienie. Kluczowe dane prezentowane są w postaci graficznej, a wszystkie informacje wprowadzone do aplikacji przekazywane są w czasie rzeczywistym do systemu KS-MEDIS.

Obchód Pielęgniarski umożliwia także przeglądanie szczegółów związanych z podawaniem leków, posiłków czy podgląd zaplanowanych dla pacjenta badań. Dzięki integracji z systemem do obsługi apteki szpitalnej KS-ASW, pielęgniarki mogą odnotowywać podanie leków pacjentom oraz automatycznie aktualizować stany magazynowe leków w apteczkach oddziałowych. Efekt: personel pielęgniarski ma pełną kontrolę nad gospodarką lekami, co zwiększa bezpieczeństwo pacjentów i ułatwia zarządzanie zapasami leków.  

Aplikacja Karta Anestezjologiczna to rozwiązanie wspomagające czynności wykonywane podczas zabiegu z udziałem lekarza anestezjologa. Jej celem jest ułatwienie prowadzenia karty anestezjologicznej.

Aplikacja Karta Anestezjologiczna to rozwiązanie, które w wygodny i prosty sposób wspomaga czynności wykonywane podczas zabiegu z udziałem lekarza anestezjologa. Dzięki aplikacji mobilnej prowadzenie karty anestezjologicznej nie musi już być wykonywane przy komputerze. Wszystkie te czynności można wykonać bezpośrednio przy pacjencie. 

Aplikacje mobile działają jak końcówki sieci informacyjnej szpitala. Wszystkie dane spływają na bieżąco do centralnej bazy danych i są od razu widoczne dla pozostałych członków personelu medycznego, zgodnie z ich uprawnieniami i kompetencjami. Pulpity aplikacji mobilnych zostały tak zaprojektowane, aby wprowadzanie danych na tablecie było łatwe nawet pomimo małego ekranu i niewielkich rozmiarów klawiatury.

Drugą zaletą są graficzne podsumowania krytycznych danych dopasowane do pracy lekarza, pielęgniarki i anestezjologa, minimalizujące czas potrzebny na uzyskanie informacji potrzebnych w procesie podejmowania decyzji.

Czytaj także: Jak informatyzować placówkę medyczną? Pobierz bezpłatny poradnik