Dobra aplikacja jest zgodna z prawem, prosta w obsłudze także dla osób z niepełnosprawnościami, interoperacyjna i atrakcyjna wizualnie – mówi Przemek Grzywa, współzałożyciel Revolve Healthcare – katowickiej firmy zajmującej się projektowaniem cyfrowych rozwiązań dla ochrony zdrowia. Rozmawiamy o tym, jak powstają nowoczesne mobilne aplikacje zdrowotne.

Co różni tworzenie aplikacji dla lekarzy i pacjentów od projektowania np. rozwiązań bankowości elektronicznej?

Jest pewna istotna różnica pomiędzy projektem aplikacji medycznej, a każdym innym projektem technologicznym. Nazywa się ona Medical Device Regulation, w skrócie MDR, czyli rozporządzenie Unii Europejskiej dotyczące wytwarzania oprogramowania w celach medycznych.

MDR wprowadza określenie Software as a Medical Device (SaMD – Oprogramowanie jako Wyrób Medyczny) i oznacza aplikacje komputerowe przeznaczone do użytku w celach medycznych, takich jak monitorowanie, diagnozowanie oraz leczenie.

Oznacza to, że twórców oprogramowania medycznego w Europie obowiązują takie same zasady jak producentów sprzętu medycznego. Określają one wymagania i normy projektowania, budowy oraz wprowadzenia na rynek produktu medycznego, narzucając stosowanie odpowiedniego procesu wytwórczego, np. poprzez uwzględnienie analizy ryzyka, prowadzenie odpowiedniej dokumentacji oraz zapewnienie procesu jakości zgodnego np. ze standardem ISO13485.

Ważnym elementem, który może znacząco wpłynąć na długość i koszt całego projektu, jest ocena kliniczna rozwiązania. W przypadku innowacyjnych rozwiązań, których nie ma jeszcze na rynku, wymagane będzie badanie kliniczne, które w przypadku aplikacji medycznej potrwać może od kilku do kilkunastu miesięcy. Przykładem jest pierwszy polski DTx (ang.: Digital Therapeutics – lek cyfrowy) – aplikacja ABAstroke krakowskiego startupu skierowana do osób po udarze. Przechodzi ona właśnie proces badania klinicznego, który potrwa około 9 miesięcy.

Ostatnią rzeczą, o której chciałbym wspomnieć, jest rola użytkownika w procesie projektowania. W przypadku aplikacji medycznych będą to najczęściej pacjenci oraz lekarze. Niezwykle istotne jest, żeby uwzględnić ich w procesie projektowania oraz testów aplikacji. Prowadzenie badań oprogramowania tworzonego z użytkownikami pozwoli nam na wczesnym etapie zweryfikować czy będzie ono użyteczne i łatwe w obsłudze. Pozwoli również na wprowadzanie zmian, które na etapie projektu są dużo tańsze niż na etapie rozwoju.

Jakie etapy są w tym procesie najważniejsze?

Twórcy aplikacji medycznych powinni rozpocząć od określenia przewidzianego zastosowania oprogramowania (ang.: intended use). Określenie intended use obejmuje cel medyczny, docelową grupę użytkowników oraz wszelkie konkretne warunki kliniczne wskazane przez producenta. Określamy w ten sposób, dla kogo projektowane jest oprogramowanie np. „dla osób powyżej 18 roku życia” albo „dla osób z cukrzycą typu 2” itp.

Określenie zastosowania produktu jest niezwykle istotne ze względu na następne wymaganie rozporządzenia MDR, czyli oznaczenie klasy ryzyka aplikacji. Istnieje zasadnicza różnica pomiędzy aplikacją medyczną klasy I, II i III. Im wyższa klasa, tym większe ryzyko dla pacjenta i bardziej czasochłonny proces projektowania, dokumentacji, implementacji, utrzymania jakości oraz analizy ryzyka. Będzie to wpływać na czas i budżet produktu. Przykładem aplikacji klasy II będzie oprogramowanie diagnostyczne do mammografii, a klasy III oprogramowanie do kontroli pompy insulinowej.

Oprogramowaniem I klasy może być np. aplikacja do radzenia sobie z bólami migrenowymi poprzez prowadzenie dziennika bólu do zaznaczania epizodów, poziomu bólu, potencjalnych wyzwalaczy i przyjmowanych leków. Oprogramowanie klasy I nie wymaga certyfikacji zewnętrznej i łatwiej jest go wprowadzić na rynek. Przy oprogramowaniu powyżej klasy I niezbędna będzie zewnętrzna certyfikacja przez odpowiednią jednostkę notyfikowaną, która sprawdzi zgodność z normami (np. IEC62304 i IEC62366). Wydłuży to znacznie proces wprowadzenia produktu na rynek, ale jest niezbędne do otrzymania znaku CE.

Znając cel aplikacji możemy przejść do jej zaprojektowania. Proces ten prowadzony jest często przez specjalistów od Doświadczeń Użytkownika (ang.: UX, User Experience). W trakcie pracy przechodzi się od ogółu do szczegółu, a finalnym efektem tych prac jest często makieta aplikacji, zawierająca architekturę informacji wraz z jej najważniejszymi funkcjonalnościami. Niezwykle istotnym elementem tego procesu są badania z użytkownikami.

Na tym etapie powstać mogą już pierwsze widoki przyszłej aplikacji. Czasem tworzy się również tzw. klikalny prototyp produktu, który w prosty sposób umożliwia pokazanie działania i wyglądu aplikacji. Na podstawie tych wszystkich informacji zespół techniczny może przystąpić do planu pracy nad aplikacją. Możliwe jest w tym momencie określenie czasu potrzebnego do stworzenia pierwszej wersji działającej aplikacji, która udostępnia podstawowe funkcjonalności, określanej często jako MVP (Minimum Viable Product). Jest to też moment, gdy podejmuje się pierwsze decyzje technologiczne.

Jak zmieniały się w ostatnich latach zasady tzw. user experience (UX) i user interface (UI) w ochronie zdrowia?

Zasady UX i UI są uniwersalne bez względu na branżę. Widzimy na pewno jedną pozytywną zmianę: branża, często dzięki startupom medycznym, otwiera się na pacjenta i zaczyna zwracać coraz większą uwagę na obszary związane z UX i UI.

Zwiększa się również świadomość związana z dostępnością, chociażby ze względu na przepisy, które to regulują. W Polsce osób z potwierdzoną niepełnosprawnością jest ponad 3 mln, a szacuje się, że w rzeczywistości jest ich dużo więcej. Dostępność nie odnosi się tylko do osób z niepełnosprawnościami, bo każdy doświadcza tymczasowych ograniczeń. To może być złamanie ręki i z tego powodu utrudnione używanie komputera, czy telefonu, ale może to być też ostre światło na plaży, które sprawia, że odczytanie czegoś z ekranu jest utrudnione. Ograniczona dostępność może wystąpić kiedy jesteśmy w miejscu, gdzie nie mamy dostępu do internetu o wysokiej przepustowości.

Na te wszystkie problemy pomagają techniki zwiększające dostępność. Bo to one zapewniają dobranie odpowiednich kolorów, które nawet w ostrym świetle będą czytelne, wielkości tekstów oraz elementów, które można kliknąć, tak żeby niedowidzący lub niepełnosprawni ruchowo nie mieli problemów w używaniu aplikacji. Żeby można było łatwo i logicznie nawigować oraz żebyśmy się nie irytowali jako użytkownicy, że nie umiemy znaleźć jakiejś potrzebnej nam informacji. Przykłady można mnożyć, ale ogólnie chodzi o to, żeby to wszystko działało, bez względu na warunki.

A jakie są obecnie trendy budowania rozwiązań cyfrowych dla ochrony zdrowia?

Słowem odmienianym przez wszystkie przypadki jest obecnie interoperacyjność (ang.: interoperability). Odnosi się ono do zdolności systemów, aplikacji i urządzeń informatycznych, tworzonych przez różne podmioty, do współpracy, wymiany danych oraz integracji w celu efektywnego udostępniania i przetwarzania informacji medycznych.

Myślę, że każdy z nas doświadczył irytacji związanej z brakiem przepływu informacji na temat naszej historii medycznej pomiędzy dwiema jednostkami medycznymi. I to nawet w tym samym mieście, idąc do tego samego lekarza, który pracuje w dwóch różnych szpitalach.

Cieszę się, że coraz więcej mówi się o unifikacji działań i wykorzystaniu standardów takich jak np. HL7 FHIR (jeden z najbardziej powszechnie stosowanych standardów w zakresie wymiany danych medycznych), czy DIACOM. Powinno to ułatwić twórcom aplikacji integrowanie się z innymi systemami informatycznymi.

Zauważamy również pozytywne sygnały płynące ze środowiska medycznego związane z wykorzystaniem chmury i powolne odchodzenie od aplikacji desktopowych zainstalowanych wyłącznie na serwerach lokalnych.

W ochronie zdrowia ważną rolę pełni bezpieczeństwo danych. Czy można ten element komunikować użytkownikom poprzez odpowiednią budowę rozwiązania?

Nawet trzeba. Zaufanie użytkowników do aplikacji medycznych, oraz ich producentów, jest jednym z głównych czynników, który wpływa na jej sukces rynkowy.

Tutaj do wartościowych praktyk możemy zaliczyć transparentność, np. poprzez łatwo dostępne polityki prywatności, oraz publikację dokumentów opisujących procesy związane z danymi. Oznakowanie CE i informacja o tym, że aplikacja jest oprogramowaniem medycznym może znacząco wpłynąć na zaufanie użytkownika do produktu. Implementacja silnych haseł, maskowanie wpisywanych danych oraz stosowanie uwierzytelniania wieloczynnikowego to rozwiązania, które zwiększają bezpieczeństwo systemu, a w efekcie – zaufanie.

Jakie są 3 główne grzechy nieprzyjaznych pacjentowi aplikacji?

Po pierwsze, nieczytelny interfejs utrudniający nawigację i korzystanie z funkcji. Po drugie, stosowanie niezrozumiałego języka może ograniczyć zdolność pacjentów do korzystania z aplikacji. Wreszcie, nieprecyzyjne informacje czy brak klarowności w komunikatach, które mogą wprowadzić pacjentów w błąd, utrudniając im skuteczne korzystanie z aplikacji.

Czy w Polsce przykłada się wystarczającą uwagę do designu rozwiązań cyfrowych w zdrowiu?

Uważam, że polskie startupy medyczne prezentują światowy poziom, szczególnie w kontekście designu i podążania za ogólnymi światowymi trendami w tym obszarze. Wrocławska Infermedica czy też Prosoma są tego świetnymi przykładami.

Inaczej wygląda to niestety w publicznej opiece zdrowotnej. Przykładowo, idąc do prywatnej kliniki mogę umówić się na konkretną godzinę, korzystając z aplikacji, czego obecnie nie mogę zrobić w poradni państwowej.

Niedawno byłem w Estonii, gdzie spotkaliśmy się z oficer ds. innowacji jednego z państwowych szpitali. Opowiedziała nam o kreatywnym procesie, który wykorzystują w szpitalu do identyfikacji obszarów do zmian. Czasem innowacja nie musi być cyfrowa, ale uwzględniając pacjenta w proces projektowania usługi, dowiedzieli się, że warto niektóre przychodnie otworzyć również wieczorem.

Obecnie napotykane aplikacje medyczne mogą czasami sprawiać wrażenie jakby stosowały rozwiązania UI/UX, które odbiegają od współczesnych standardów. Odpowiedź na pytanie, dlaczego tak się zdarza, nie jest prosta. Przykładowo, konieczność zapewnienia bezpieczeństwa i niezawodności może ograniczać swobodę w projektowaniu rozbudowanych interfejsów, co może sprawiać wrażenie, jakby technologia była o krok wstecz. Niemniej jednak, ta estetyka „starej szkoły” wynika z konieczności spełnienia najwyższych standardów bezpieczeństwa, co jest priorytetem m.in. w sektorze zdrowia.

Podsumowując, jakie 5 cech powinna mieć apka, którą polubią pacjenci?

Przede wszystkim powinna być skuteczna, rzeczywiście pomagając pacjentom w rozwiązaniu ich konkretnych problemów zdrowotnych. Stabilność techniczna to kolejny istotny aspekt, zapewniający płynne działanie na każdym urządzeniu i eliminujący frustrujące zacięcia czy zawieszanie się.

Aplikacja powinna także wyróżniać się przejrzystym interfejsem, pozbawionym zbędnych funkcji, co ułatwia korzystanie nawet osobom niezaznajomionym z dzisiejszą technologią. Komunikacja w języku znanym pacjentowi, niekoniecznie będącym urzędowym, stanowi istotny element dostosowania się do potrzeb użytkownika. Ostatecznie, by zyskać przychylność pacjentów, aplikacja powinna być wolna od reklam i sponsorowanych treści, pozwalając użytkownikom skupić się na korzystaniu z niej bez zakłóceń czy rozpraszających elementów.

Czytaj także: Dr Gałązka-Sobotka o danych, HTA i kompetencjach cyfrowych

Targi SALMED (19-21 marca 2024, Poznań) to nie tylko wystawa rozwiązań dla ochrony zdrowia, ale także wykłady i dyskusje. Jakie sesje i tematy znalazły się w programie?

Debata dyrektorów szpitali

W pierwszym dniu targów SALMED (19 marca), odbędzie się konferencja dyrektorów szpitali powiatowych oraz przedstawicieli władz samorządowych.

– Ostatnie lata były bardzo trudne dla szpitali powiatowych. Wprowadzono ustawę o minimalnych wynagrodzeniach dla pracowników w ochronie zdrowia, wzrosły koszty, takie jak energia czy ceny leków. A to wszystko bez odpowiedniego finansowania i nadal niedoszacowanych wycen procedur medycznych, które nie pokrywają ich rzeczywistych kosztów. Jeśli nic się nie zmieni, sytuacja finansowa szpitali będzie ulegać dalszemu pogorszeniu. Nadchodząca konferencja będzie okazją do przedstawienia rządzącym perspektywy tych, którzy na co dzień zmagają się z wyzwaniem jakim jest zarządzanie placówkami ochrony zdrowia – mówi Waldemar Malinowski, prezes Ogólnopolskiego Związku Pracodawców Szpitali Powiatowych. 

Podczas spotkania zostaną omówione m.in. tematy takie jak:

• sytuacja szpitali powiatowych w 2023 roku,
• bezpieczeństwo finansowe szpitali,
• AOS w systemie ochrony zdrowia.

Konferencję zakończy panel dyskusyjny pt. „System szpitalnictwa w Polsce – wyzwania i perspektywy” z udziałem przedstawicieli Ministerstwa Zdrowia, Narodowego Funduszu Zdrowia, Związku Powiatów Polskich oraz Agencji Oceny Technologii Medycznych i Taryfikacji.  

Geriatria i sytuacje kryzysowe w ochronie zdrowia

Jednym z patronów branżowych wydarzenia jest Wielkopolska Izba Lekarska. Pierwszego dnia targów przedstawiciele samorządu lekarzy i lekarzy dentystów przeprowadzą serię debat i paneli dyskusyjnych. Spotkanie rozpocznie blok poświęcony geriatrii.

– Ustawa o opiece geriatrycznej, wprowadzona w ostatnich miesiącach nakłada na samorządy szczególne zadania w tym zakresie, z którymi przyjdzie się nam zmierzyć. W chwili obecnej w województwie powinno powstać 420 łóżek geriatrycznych oraz kilkadziesiąt Centrów Zdrowia 75+ – mówi wiceprezes ORL WIL lek. Marcin Karolewski, specjalista chorób wewnętrznych i hipertensjologii, który jest w trakcie specjalizacji z geriatrii. 

W drugiej części panelu, eksperci WiL skoncentrują się na działaniach medycznych w obliczu kryzysu: wojny, zagrożenia terrorystycznego i katastrof. Konflikt zbrojny na masową skalę toczy się przy naszej granicy, a niestabilna sytuacja polityczna jest faktem w wielu regionach świata. Dlatego też każda osoba zarządzająca szpitalem powinna nabyć lub zaktualizować wiedzę o zarządzaniu kryzysowym. 

 – Musimy wiedzieć jakie procedury mogą być konieczne do wdrożenia, ale też chociażby w jaki sprzęt powinniśmy się zaopatrzyć. To tematy, których wszyscy chcielibyśmy uniknąć, jednak kiedy przyjdzie nam się mierzyć z zagrożeniem na naukę będzie już za późno. Tę lekcję musimy odrobić teraz, z nadzieją, że nie przyjdzie nam tej wiedzy wykorzystać w praktyce – podkreśla lek. Marcin Karolewski.  

Z inicjatywy Wielkopolskiej Izby Lekarskiej oraz Urzędu Marszałkowskiego w Poznaniu jest organizowany konkurs „Wielkopolski Lekarz z Sercem im. Kazimierza Hołogi”. Jego celem jest uhonorowanie lekarzy związanych z Wielkopolską, którzy w pracy zawodowej angażują się w działania o charakterze charytatywnym i prospołecznym, cieszą się autorytetem w środowisku lekarskim oraz lokalnym i swoją postawą mobilizują innych do działania. Ogłoszenie wyników oraz wręczenie nagród zaplanowane jest na 19 marca 2024 r. podczas gali na Międzynarodowych Targach Poznańskich w pierwszym dniu targów SALMED. 

Rehabilitacja 

W pierwszym dniu zaplanowano piętnastą odsłonę konferencji naukowej z cyklu: Promocja Polskiej Rehabilitacji. Organizatorem najbliższej edycji pt.: „Czy rehabilitacja uzdrowiskowa ma charakter interdyscyplinarny?” jest Komisja Rehabilitacji i Integracji Społecznej Polskiej Akademii Nauk oddział w Poznaniu.

– Coraz więcej specjalności medycznych zainteresowanych jest fizjoterapią uzdrowiskową, ze względu na stałe poszerzanie zakresu jej kompleksowej terapii. Opracowano specyficzne modele optymalnej opieki zdrowotnej dostępne w uzdrowisku. Fundamentem lecznictwa uzdrowiskowego jest nie tylko naprawa zaburzonych funkcji organizmu czy rehabilitacja po urazach, ale uzyskanie znacznie lepszego ogólnego stanu zdrowia oraz wyższej odporności na warunki życia. – przekonuje prof. dr hab. n. o KF Jacek Lewandowski, przewodniczący Komitetu Naukowego Konferencji. 

Ochrona danych medycznych

Podczas panelu organizowanego przez Polską Federację Szpitali i Koalicję AI w Zdrowiu eksperci podejmą się analizy zagrożeń, jakie mogą dotknąć systemy zarządzania danymi medycznymi, w tym ataków hakerskich, czy wycieków danych.

Debata obejmie również kwestie konieczności zabezpieczania danych medycznych przed nieuprawnionym dostępem, ze względu na ich wyjątkową wrażliwość i związaną z tym potrzebę zachowania pełnej poufności informacji pacjentów. Rozmowa skoncentruje się na roli edukacji pracowników medycznych w kontekście cyberbezpieczeństwa.

– E-zdrowie otwiera przed nami nieograniczone możliwości, ale także stawia wobec nas wyzwania związane z bezpieczeństwem danych. W erze, gdzie informacje są kluczem do postępu medycyny, nie możemy zignorować znaczenia cyberbezpieczeństwa w ochronie danych medycznych. To nie tylko obowiązek, ale etyczny imperatyw, by zapewnić pacjentom pewność, że ich informacje są bezpieczne – mówi Ligia Kornowska, dyrektor zarządzająca Polskiej Federacji Szpitali i moderatorka panelu. 

W agendzie targów SALMED zaplanowano także panel poświęcony wyrobom medycznym organizowany przez Ogólnopolską Izbę Gospodarczą Wyrobów Medycznych POLMED. Uczestnicy będą mogli także wziąć udział w sesjach dotyczących startupów medycznych, zielonych szpitali, AI w ochronie zdrowia, zamówień publicznych, a także kompleksowego wyposażenia w aparaturę medyczną szpitala w ramach planowanej inwestycji.  

Międzynarodowe Targi Sprzętu i Wyposażenia Medycznego SALMED odbędą się 19-21 marca 2024 r. na terenie Międzynarodowych Targów Poznańskich. Więcej aktualnych informacji na: www.salmed.pl. Blog OSOZ objął wydarzenie patronatem medialnym.

Czytaj także: Więcej niż EDM. Rozwiązania IT, które warto wypróbować

W przeciwieństwie do zawiłego i nastawionego na ograniczenia europejskiego EU AI Act, Stany Zjednoczone wypracowały pragmatyczne zasady minimalizujące negatywne skutki AI i pobudzające jej rozwój.

Regulacje i wsparcie dla AI w USA

30 października 2023 roku Prezydent Biden wydał rozporządzenie wykonawcze w sprawie bezpiecznej i zaufanej sztucznej inteligencji, aby „Ameryka stała się liderem w realizacji obietnic i zarządzaniu ryzykiem, które wiążą się ze sztuczną inteligencją (AI)”.

W przeciwieństwie do Europy skupionej na restrykcjach i ograniczeniach, USA podeszły do regulacji AI w pragmatyczny sposób, namawiając firmy nowych technologii do zobowiązania się do wspierania bezpiecznego i godnego zaufania rozwoju sztucznej inteligencji. Do inicjatywy dołączyło 15 liderów rynku AI.

Na podobny krok zdecydowała się też Kanada tworząc kodeks postępowania w zakresie odpowiedzialnego rozwoju i zarządzania zaawansowanymi systemami generatywnej sztucznej inteligencji (eng.: Voluntary Code of Conduct on the Responsible Development and Management of Advanced Generative AI Systems). Firmy mogą do niego przystąpić dobrowolnie, ale jego podpisanie jest pewnego rodzaju certyfikatem wiarygodności dla klientów.

Szkodliwe zastosowania AI

Rozporządzenie wykonawcze Prezydenta Joe Bidena ustanawia nowe standardy bezpieczeństwa i ochrony przed negatywnym skutkami AI.

Wymaga ono, aby twórcy systemów sztucznej inteligencji dzielili się wynikami testów bezpieczeństwa i innymi krytycznymi informacjami z rządem USA. Zamiast tworzenia nowego prawa, podciągnięto systemy AI mogące stanowić zagrożenie dla bezpieczeństwa narodowego pod ustawę o produkcji obronnej (Defense Production Act).

Firmy są zobowiązane, aby opracować narzędzia (standardy, testy itd.), dzięki którym będzie można zapewnić, że systemy AI są bezpieczne i godne zaufania. Odpowiednie zasady ma stworzyć Narodowy Instytut Standardów i Technologii. Kolejny element to ochrona przed ryzykiem związanym z wykorzystaniem sztucznej inteligencji do tworzenia niebezpiecznych materiałów biologicznych. Agencje finansujące projekty z zakresu nauk przyrodniczych będą musiały opracować własne standardy, aby w ogóle otrzymać finansowanie publiczne.

Jest też mowa o ochronie obywateli przed fake newsami generowanymi przez AI. Departament Handlu ma opracować wytyczne dotyczące uwierzytelniania treści i znaków wodnych, dzięki którym będzie można oznaczać treści tworzone przez sztuczną inteligencję.

Prywatność, dane, dyskryminacja

Dużo miejsca poświęcono ochronie prywatności obywateli przed nielegalnym wykorzystaniem ich danych do trenowania modeli AI. Ale dekret Prezydenta USA jedynie „wzywa” Kongres do przyjęcia odpowiednich przepisów. Pamiętajmy, że Europa jest w tej kwestii o krok do przodu, odkąd obowiązuje RODO.

O wiele większym wyzwaniem jest zapobieganie tworzeniu dyskryminujących algorytmów AI. A takie mogą powstać, gdy są trenowane na niereprezentatywnych danych. Administracja Bidena skupiła się na profilaktyce tzw. dyskryminacji algorytmicznej w agencjach rządowych, jak np. sądownictwie oraz w firmach realizujących kontrakty na rzecz administracji rządowej.

Jest też wzmianka o AI w medycynie. Jej rozwój ma być nastawiony na poprawę funkcjonowania opieki zdrowotnej oraz opracowanie niedrogich i ratujących życie leków. Departament Zdrowia i Opieki Społecznej ustanowi program bezpieczeństwa w celu zapobiegania szkodom lub niebezpiecznym praktykom wynikającym z zastosowania sztucznej inteligencji w ochronie zdrowia.

Kolejny rozdział poświęcono rynkowi pracy. Chodzi o opracowanie zasad, które mają zapobiec m.in. niesprawiedliwym systemom AI do rekrutacji i oceny pracowników albo zaniżania wynagrodzeń.

Liberalne środowisko dla rozwoju AI

Jest dużo prawdy w powiedzeniu, że „Europa reguluje, a USA rozwijają innowacje” (eng.: The European Union regulates, while America innovates). Rozporządzenie mówi wprost: USA jest liderem w dziedzinie innowacji w zakresie sztucznej inteligencji. I tak ma zostać. W 2022 roku liczba startupów AI, które pozyskały kapitał w USA była większa niż ich łączna suma w czołowych siedmiu konkurujących krajach. Biały Dom nie zamierza utracić tej pozycji poprzez nadmierne ograniczanie swobody rozwoju AI i zapowiada wsparcie badań nad AI. W dekrecie mowa jest m.in. o dodatkowych dotacjach na badania nad sztuczną inteligencją w opiece zdrowotnej i ochronie środowiska oraz łatwiejszym dostępie do baz danych i algorytmów przez naukowców.

Joe Biden deklaruje też promowanie otwartego i konkurencyjnego ekosystemu sztucznej inteligencji oraz pomoc małym firmom w komercjalizacji przełomowych rozwiązań AI. USA są wyjątkowo otwarte na import wysokokwalifikowanej kadry inżynierów AI. Na końcu rozporządzenia pojawiają się zapisy o współpracy USA z innymi krajami. W końcu wyzwania i możliwości związane ze sztuczną inteligencją mają charakter globalny. Jednak tutaj trudno znaleźć konkrety. Za to jest dużo ogólników mówiących o „ustanowieniu solidnych międzynarodowych ram dla wykorzystania korzyści płynących ze sztucznej inteligencji oraz zarządzaniu ryzykiem i zapewnieniu bezpieczeństwa” oraz dążeniu do zapewnienia, że „technologia jest godna zaufania i interoperacyjna”.

USA wiedzą, że sztuczna inteligencja i generatywna sztuczna inteligencja będą siłą napędową gospodarek przyszłości. Dlatego ani nie myślą o oddaniu pozycji lidera i ograniczeniu swobody rozwoju innowacji w Dolinie Krzemowej. Dokument Joe Bidena nie wprowadza żadnych drastycznych ograniczeń dla firm przełomowych technologii jak Microsoft, Apple, Google, OpenAI i długiej listy startupów. Tym samym USA podeszły do regulacji AI zupełnie inaczej niż Europa.

W rozwoju innowacji opartych na AI Stary Kontynent jest daleko za USA i Chinami, ale za to ma ambicje, aby zostać liderem w ich regulowaniu. Ten paradoks może za kilka lat odbić się czkawką.

Czytaj także: Jak AI może zredukować koszty opieki zdrowotnej. 5 przykładów

Po odwołaniu Piotra Kikosickiego, nowym Dyrektorem Centrum e-Zdrowia został dr Tomasz Jeruzalski. Kim jest osoba, która pokieruje rozwojem e-zdrowia w Polsce?

Tomasz Jeruzalski pełnił od 2010 roku funkcję Dyrektora Sekcji Informatycznej w Katedrze Zarządzania i Technologii Informacyjnych na Uniwersytecie Warszawskim. Od 2020 roku był menedżerzem ds. projektów w Instytucie Łączności – Państwowym Instytucie Badawczym.

Jeruzalski ma duże doświadczenie w zakresie projektów informatycznych. Od 2016 do 2019 roku zarządzał Pionem Informatyki i Telekomunikacji w Poczcie Polskiej.

Pracował jako ekspert IT w Ministerstwie Gospodarki (obecnie Ministerstwo Rozwoju i Technologii) w latach 2010-2016, gdzie odpowiedzialny był za ocenę projektów z zakresu IT w Programie Operacyjnym Innowacyjna Gospodarka 2007-2013. Z Ministerstem Gospodarki był związany od 2003 roku.

Z ochroną zdrowia ma niewiele wspólnego poza kilkoma projektami. W latach 2011-2013 zaangażowany był w prace nad nowelizacją ustawy o informatyzacji działalności podmiotów realizujących zadania publiczne, w tym także projekt eWUŚ. W latach 2014-2014 był Doradcą Zarządu i Rady Naukowej w zakresie ICT (technologii informacyno-telekomunikacyjnych) w Polskiej Unii Onkologii.

Centrum e-Zdrowia jest jednostką podległą Ministerstwu Zdrowia, odpowiedzialną za cyfryzację ochrony zdrowia. W CeZ pracuje 350 osób.

Czytaj także: Paweł Kikosicki nie jest już Dyrektorem Centrum e-Zdrowia

Podczas targów innowacji CES 2024, Withings zaprezentował minimalistyczny gadżet do mierzenia kilku ważnych parametrów zdrowia w domu.

BeamO zamiast czterech urządzeń

CES to odbywające się co roku największe targi elektroniki konsumenckiej na świecie. Podczas tegorocznej edycji (9–12 stycznia 2024), francuski producent urządzeń do monitoringu zdrowia Withings pokazał swoje najnowsze urządzenie do diagnostyki domowej – BeamO. Gadżet wielkości dłoni mieści w sobie elektrokardiogram (EKG), pulsoksymetr, stetoskop i termometr.

– Kiedyś temperatura ciała była jedynym rutynowym pomiarem wykonywanym w domu. BeamO zrewolucjonizuje pomiar podstawowych parametrów życiowych przeprowadzanych podczas wizyt lekarskich w zaciszu własnego domu – mówi prezes Withings, Éric Carreel. Urządzenie służy do indywidualnego monitoringu zdrowia, ale można je także wykorzystać podczas telewizyt, przesyłając lekarzowi zebrane dane.

Bezprzewodowe pomiary parametrów ciała

BeamO wykorzystuje czujniki fal świetlnych i informacje akustyczne, aby wykrywać wzorce przepływu krwi i temperaturę. Na tej podstawie możliwe jest określenie poziomu nasycenia krwi tlenem (SpO2) i odczyt tętna. Jednoprzewodowe EKG wykorzystuje z kolei technologią stosowaną w wyższej klasy smartwatchach, takich jak Apple Watch. Aby wykonać EKG albo zmierzyć saturację, należy chwycić urządzenie obiema rękami.

Temperaturę mierzy się przysuwając BeamO do skroni – czujnik Withings Thermo skanuje tętnicę skroniową w podczerwieni. Cyfrowy stetoskop przechwytuje dźwięki akustyczne przez klatkę piersiową lub plecy, pozwalając na dokładne osłuchanie serca i płuc. Port USB-C umożliwia strumieniowe przesyłanie dźwięku do lekarza podczas telekonsultacji. Zestaw samouczków w aplikacji mobilnej zintegrowanej z urządzeniem pomaga w prawidłowym ustawieniu urządzenia. W apce można przejrzeć wszystkie wyniki oraz przesłać jego do lekarza.

Withings twierdzi, że nowy gadżet przeprowadza wszystkie pomiary w mniej niż minutę. Oprócz tego wstępnie interpretuje wyniki, ostrzegając o gorączce, infekcjach, migotaniu przedsionków i innych dolegliwościach.

Choć BeamO miał już swoją premierę podczas CES 2024, na razie nie jest dostępny w sprzedaży. W USA, najpierw musi być zatwierdzony przez Amerykańską Agencję ds. Żywności i Leków (FDA). W Europie powinien być dostępny latem 2024 roku, po otrzymaniu znaku CE. Cena: 249,95 euro.

Czytaj także: 19 najciekawszych technologii dla zdrowia 2023

Nike Training Club uważana jest za jedną z najlepszych darmowych aplikacji fitness. Sprawdzamy, czy słusznie.

Aplikacja do ćwiczeń na siłowni i w domu

Aplikacja Nike to społeczność osób, które chcą się ruszać, uprawiać sport, poprawić swoją kondycję fizyczną albo osiągnąć własne cele treningowe. Wybór ćwiczeń i filmów instruktażowych jest ogromny i dopasowany do każdych oczekiwań. Wśród nich m.in. ćwiczenia do wykonywania w domu dopasowane do małych przestrzeni, total-body fitness, treningi wysokiej intensywności trwające 20 minut lub krócej, ćwiczenia wybranych partii mięśni oraz wytrzymałościowe (kardio). Razem to ponad 300 ćwiczeń i programów wellness.

Oprócz tego joga, mindfulness, medytacje z przewodnikiem, porady w zakresie odżywiania się, wspólne gotowanie, ćwiczenia relaksacyjne. Można dowolnie wybierać programy treningowe dopasowane do własnych potrzeb i formy oraz prowadzone przez trenerów Nike.

Osoby, które nie mają czasu na fitness polubią opcję doboru długości treningu, na jaki mogą sobie pozwolić. Od czasu pandemii COVID-19, aplikację rozbudowano o ćwiczenia wykonywane poza siłownią, jak pilates i treningi niewymagające sprzętu, wykorzystujące własny ciężar ciała. Regularnie dodawane są premierowe treningi z udziałem sportowców i nowych trenerów.

Najlepiej działa na smartwatchu

Z Nike Training Club można korzystać na smartfonie, powtarzając wyświetlane na ekranie ćwiczenia. Jednak najlepszą wygodę oferuje obsługa z pomocą smartwatcha (możliwość integracji z modelami różnych firm). To pomaga przełączać się pomiędzy poszczególnymi ćwiczeniami, mierzyć efekty i parametry treningu jak tętno i liczba spalonych kalorii.

Nike oferuje też inne dedykowane aplikacje takie jak Nike Run Club dla osób lubiących bieganie. I to wszystko całkowicie za darmo po zalogowaniu się do klubu Nike’a. Teoretycznie, bo Nike oczywiście promuje własne produkty (trenerzy noszą ubrania Nike) i w ten sposób buduje bazę potencjalnych klientów.

Trzeba wspomnieć, że apka zbiera sporo danych jak lokalizację, historia wyszukiwania, dane o zakupach i zdrowotne. Płacimy więc danymi, choć polityka ich przetwarzania jest transparentna. Wady: apka odstaje pod względem szaty graficznej i jakości wideo od płatnej konkurencji, jak np. Freeletics czy Fitness+ od Apple.

Pobierz aplikację Nike Training Club w:

• Apple Store
• Google Play

Czytaj także: Z tą apką liczenie kalorii jest proste i szybkie

Paweł Kikosicki odchodzi z Centrum e-Zdrowia (CeZ). O swojej decyzji poinformował na portalu społecznościowym LinkedIn. Funkcję Szefa CeZ – instytucji odpowiedzialnej za cyfryzację rynku zdrowia – pełnił od 1 lutego 2022 do 2 lutego 2024 roku.

– Po ponad 2 latach nadszedł czas pożegnać się z Centrum e-Zdrowia. To był bardzo intensywny okres, w trakcie którego wykonaliśmy kawał dobrej roboty – napisał na LinkedIn Paweł Kikosicki, dodając, że było to okres „niesamowitego rozwoju aplikacji moje IKP oraz Internetowego Konta Pacjenta”.

– To dziesiątki wdrożeń, które być może nie są tak widoczne i spektakularne, ale są bardzo ważne z punktu widzenia ponad 50 systemów i rejestrów, jakimi zarządza Centrum. To dziesiątki kampanii promocyjnych systemu e-zdrowia, ale też dziesiątki szkoleń, jakie przeprowadzili eksperci CEZ.

Paweł Kikosicki podziękował przy okazji byłemu Ministrowi Zdrowia za rządów PiS, Adamowi Niedzielskiemu, który powołał go na stanowisko Dyrektora CeZ.  Wcześiej Kikosicki nadzorował w NFZ budowę systemu do zarządzania relacjami z klientami.

Dyrektor Kikosicki napisał także, że „nowemu Szefowi Centrum e-Zdrowia życzy powodzenia w realizacji planów i będę gorąco kibicował!”. Nie wiadomo na razie, czy Kikoskicki został odwołany z funkcji dyrektora przez nową Minister Zdrowia, czy zrezygnował sam. Kilka dni wcześniej, w wywiadzie dla TVN 24, szefowa resortu zdrowia Izabela Leszczyna mówiła o tym, że Centrum e-Zdrowia potrzebne są zmiany, także zmiany w zarządzaniu.

Na razie nie wiadomo, kto zastąpi Pawła Kikosickiego.

Czytaj także: Minister Zdrowia zapowiada zmiany w Centrum e-Zdrowia

Wytarczy połknąć małą e-tabletkę przed posiłkiem, aby wywołać uczucie sytości. Mechanizm oszukuje mózg, który pod wpływem impulsów z żołądka redukuje apetyt.

Jak to działa?

Podczas każdego posiłku żołądek wysyła do mózgu sygnały wywołujące uczucie sytości. Ten mechanizm ma chronić przed przejedzeniem i reguluje ilość spożywanego pokarmu. Inżynierowie z Massachusetts Institute of Technology (MIT) postanowili wykorzystać ten naturalny system samoregulacji. Zaprojektowana przez nich pigułka wibruje w żołądku, aktywując te same receptory, które informują mózg o tym, że żołądek jest pełny i należy przestać jeść. W tym momencie mózg obniża poziom greliny – hormonu pobudzającego głód.

U zwierząt, którym podano pigułkę 20 minut przed jedzeniem, zaobserwowano stymulację uwalniania hormonów sygnalizujących sytość i w efekcie zmniejszenie spożycia pokarmu przez zwierzęta o około 40 procent. Badania sugerują, że technologia może być bezpiecznie stosowana u ludzi i jest minimalnie inwazyjnym, niefarmakologicznym sposobem leczenia otyłości. W badaniu na zwierzętach naukowcy wykazali, że gdy pigułka zaczyna wibrować, aktywuje receptory, które wysyłają sygnały do mózgu poprzez stymulację nerwu błędnego. W efekcie uwalniane są hormony tak samo jak to ma miejsce w czasie posiłku.

Jak zbudowana jest kapsułka?

Wibrująca kapsułka, zaprojektowana w laboratorium Traverso, ma wielkość większej tabletki multiwitaminy. Wewnątrz znajduje się elektroniczny mechanizm. Pigułka jest zasilana małą baterią z tlenku srebra – gdy dociera do żołądka, kwaśne płyny żołądkowe rozpuszczają galaretowatą membranę pokrywającą kapsułkę, uzupełniając obwód elektroniczny, który aktywuje silnik wibracyjny.

Obecna wersja pigułki została zaprojektowana tak, aby wibrować przez około 30 minut po dotarciu do żołądka. Naukowcy planują przeprojektować urządzenie, aby dłużej pozostawało w żołądku. W ten sposób kapsułka mogłaby być włączana i wyłączana bezprzewodowo w razie potrzeby. W eksperymentach na zwierzętach tabletki przeszły przez przewód pokarmowy i zostały wydalone w ciągu czterech lub pięciu dni. Zwierzęta nie wykazywały żadnych oznak niedrożności, perforacji lub innych negatywnych skutków, gdy pigułka znajdowała się w ich przewodzie pokarmowym.

Nowa metoda na otyłość

Naukowcy twierdzą, że pigułka może stanowić alternatywę dla obecnych metod leczenia otyłości. Wiele osób ma problem ze zrzuceniem zbędnych kilogramów i w dłuższym czasie nie pomagają ani dieta, ani ćwiczenia. Z kolei interwencje chirurgiczne są mocno inwazyjne i powodują trwałe zmiany (np. zmniejszenie żołądka). Leki takie jak agoniści GLP-1 mogą wspomagać odchudzanie, ale większość z nich musi być wstrzykiwana, co utrudnia ich stosowanie. Kapsułki mogłyby być produkowane po niskich kosztach. Naukowcy chcą teraz zbadać możliwości masowej produkcji i przeprowadzić badania kliniczne na ludziach.

Czytaj także: Powstaje nowe urządzenie do świadomego sterowania snami

91% szpitali w Polsce „zgłasza zapotrzebowanie” w zakresie cyberbezpieczeństwa – wynika z badania Centrum e-Zdrowia. Tymczasem w 2024 czekają je nowe wyzwania cybernetyczne wynikające ze zmiany strategii hakerów i nowych metod ataków.

W szpitalach jest lepiej, POZ-ty dalej nieprzygotowane

Badanie CeZ przeprowadzone w 2023 roku sugeruje, że placówki skupiają się obecnie na poprawie odporności na cyberataki (25,8%), zwiększeniu ochrony danych osobowych (24,3%), poprawie ciągłości działania systemów informatycznych (16,9%) oraz szerzeniu wiedzy o zagrożeniach informatycznych wśród pracowników/kierownictwa jednostki (14%).

Niepokojąca jest jednak odpowiedź na pytanie o aktywne dbanie o bezpieczeństwo danych: tylko połowa ankietowanych placówek (51,5%) zadeklarowała, że już wcześniej (przed badaniem) podejmowała działania w zakresie cyberbezpieczeństwa. Z tego większość to szpitale (94%), a największe zaniedbania są w placówkach AOS i POZ. Badanie nie wskazuje powodów, ale można się jedynie domyślać, że jak zawsze chodzi o pieniądze oraz samą świadomość problemu.

W 70% przypadków, inwestycje w cyberbieczeństwo są finansowane ze środków własnych. Do własnych budżetów muszą sięgać najczęściej ambulatoryjne placówki medyczne, w przeciwieństwie do szpitali, gdzie aż 75% funduszy pochodzi ze wsparcia NFZ. Tylko w co 40-stej placówce udało się znaleźć pieniądze z funduszy UE lub ze środków publicznych, np. od podmiotów tworzących.

Jeśli pieniądze już są, to trafiają na monitorowanie bezpieczeństwa teleinformatycznego podmiotu (51,1% ankietowanych) i szkolenia dla pracowników z bezpieczeństwa informacji i cyberbezpieczeństwa (47,3%).

Można z dużą pewnością przyjąć, że rzeczywista ochrona danych jest na gorszym niż deklarowanym poziomie. Menedżerowie placówek medycznych powtarzają od lat, że nie mają pieniędzy na cyberbezpieczeństwo i nie stać ich na zatrudnienie deficytowych i drogich ekspertów, których i tak wchłaniają inne branże.

Więcej ataków na małe, nieprzygotowane placówki

Tymczasem statystyki za rok 2023 pokazują, że nie słabnie intensywność ataków na placówki ochrony zdrowia. W Polsce wystarczy wspomnieć o głośnej kradzieży danych w Laboratoriach ALAB. W 2021 roku polskie szpitale i przychodnie zgłosiły 13 ataków hakerów, a w 2022 roku było już ich 43. Faktyczna liczba jest kilkukrotnie większa, bo wiele podmiotów woli ukryć naruszenie bezpieczeństwa danych w obawie przed konsekwencjami.

Na całym świecie, codziennie rejestuje się ok. 250 ataków hakerów na podmioty medyczne. Według badania Check Point Research, w I półroczu 2023 r. liczba ataków na opiekę zdrowotną na świecie wzrosła o 18 proc. Z kolei według raportu IBM i Ponemon Institute z lipca 2023 r., naruszenia cyberbezpieczeństwa kosztowały organizacje opieki zdrowotnej średnio 10,1 miliona dolarów na incydent. W 2023 roku można zaobserwować zmianę taktyki hakerów. Ponieważ duże szpitale wzmocniły w ostatnich latach poziom bezpieczeństwa danych – co też wynika z ankiety CeZ – ofiarą coraz częściej stają się mniejsze placówki.

Spooning, czyli maile prawie jak z NFZ

Sektor zdrowia musi się też przygotować na zwiększoną liczbę cyberataków przeprowadzanych z pomocą sztucznej inteligencji. Wśród nich są personalizowane wiadomości phishingowe wykorzystujące nieuwagę pracowników ochrony zdrowia, czy adaptacyjne złośliwe oprogramowanie wymagające nowych zabezpieczeń. Hakerzy sięgają do coraz bardziej wyrafinowanych technik socjo-technicznych, w czym pomaga im AI.

A to oznacza jedno: nawet te placówki, które mają już politykę bezpieczeństwa informacyjnego, muszą ją zaktualizować m.in. o element aktywnego przewidywania i zapobiegania nowym rodzajom ryzyka cybernetycznego. Drugi ważny element strategii na 2024 to wzmocnienie zarządzania ryzykiem stron trzecich. Każda umowa outsourcingowa, która wymaga wymiany/powierzenia danych, powinna być solidnie przygotowana pod względem cyberbezpieczeństwa. Oprócz wstępnej oceny, należy zaplanować systematyczne przeglądy poziomu bezpieczeństwa. Tak samo ważne są regularne szkolenia pracowników informujące o potencjalnych zagrożeniach związanych z interakcjami z podmiotami zewnętrznymi.

Pracownicy powinni być na bieżąco z nowymi taktykami ataków. Przykładem jest np. spoofing e-mail albo telefoniczny, gdy oszust podszywa się pod podmiot lub osobę. Największy atak tego rodzaju miał miejsce w marcu 2023 roku. Placówki medyczne otrzymały wówczas maila wyglądającego jak informacja z NFZ, o tytule „Nowe oprogramowanie SZOI” albo „Aktualizacja systemu SZOI”. Wiadomości zostały wysłane z adresów bardzo podobnych do oficjalnych, np. informatycy@szoi-nfz.pl albo szoi@nfz-centrala.pl. Na pierwszy rzut oka mail trudno było odróżnić od prawdziwych komunikatów rozsyłanych przez NFZ. Pracownicy muszą wiedzieć, jak weryfikować maile, prośby o poufne informacje albo wezwania do zalogowania się do platform IT. W 2023 roku to właśnie phishing był najczęstszą przyczyną wycieku danych.

Nie można też zapominać o klasycznych zabezpieczeniach jak silne i regularnie zmieniane hasła, wykonywanie w czasie rzeczywistym kopii bezpieczeństwa, aktualizacja oprogramowania, zarządzanie dostępem do danych przez pracowników oraz minimalizacja zagrożeń wewnętrznych.

Wraz z tym jak szpitale stają się smart, integrując ze sobą urządzenia w ramach jednej infrastruktury IT, uwagi wymagają zagrożenia w ramach tzw. internetu rzeczy. Pierwsze statystyki za rok 2023 sugerują, że liczba ataków nie była drastycznie większa w porównaniu z rokiem 2022. Za to miały one o wiele bardziej katastrofalne skutki dla placówek medycznych. Zwiększyła się też liczba danych, które wyciekły, poszkodowanych osób oraz kwoty okupu.

Czytaj także: Insider threats, czyli jak chronić dane przed pracownikami

Pomimo dowodów na skuteczność generatywnej sztucznej inteligencji, jej wdrożenie w opiece zdrowotnej napotyka na sceptycyzm i przeszkody regulacyjne. Czy istnieje kompromis pomiędzy ogromnym potencjałem AI a ryzykiem halucynacji?

Relacja z dyskusji zorganizowanej przez szwajcarski hub innowacji DayOne „Generative AI in Healthcare: Hype or Hope?”.

Lepszy doktor ChatGPT czy brak diagnozy?

W opiece zdrowotnej generatywna sztuczna inteligencja (gen AI) ma zdemokratyzować dostęp do usług medycznych, wyręczyć personel w rutynowych zadaniach administracyjnych oraz pomóc pacjentom w poruszaniu się po złożonej wiedzy związanej ze zdrowiem i profilaktyką.

W perspektywie globalnej problem jest spory: ok. 400 mln ludzi nie ma dostępu nawet do podstawowej pomocy medycznej, 4,5 mld do opieki w ramach ubezpieczenia zdrowotnego. Tylko niewielki procent ludzi na ludzi na świecie może liczyć na nowoczesną, opartą na aktualnej wiedzy naukowej diagnozę i leczenie. Wynika to z nierówności ekonomicznych oraz zróżnicowanego rozmieszczenia infrastruktury ochrony zdrowia.

– Jedną z najważniejszych transformacji napędzaną sztuczną inteligencją będzie demokratyzacja dostępu do wiedzy medycznej dla miliardów ludzi na całym świecie – twierdzi Jas Dhalliwal, Global Principal Cloud Architect w Google. Przykładem jest szukanie diagnozy z pomocą ChatGPT albo chatboty doradzające w zakresie zdrowego stylu życia.

Choć na razie takie narzędzia są stosowane stosunkowo rzadko, ich popularyzacja jest niemal pewna – analogicznie do upowszechnienia się Google, który w początkach internetu był stosowany przez garstkę entuzjastów. Skoro ChatGPT zdaje egzaminy medyczne, już teraz posiada wiedzę, z której mogą skorzystać ludzie na całym świecie (bazowa wersja systemu, podobnie jak wyszukiwarka Google, jest darmowa).

Czy sztuczna inteligencja uratuje EHR?

Jednym z najbardziej wyczekiwanych zastosowań sztucznej inteligencji jest ułatwienie korzystania z elektronicznej dokumentacji medycznej. – Obecne systemy EDM wymagają długiego pisania, klikania i przechodzenia pomiędzy okienkami systemu. Praca z komputerem pochłania prawie połowę czasu na wizytę pacjenta. Wyobraź sobie teraz, że ten cały proces znika – to byłby przełom w historii opieki zdrowotnej i cyfryzacji – twierdzi Blaise Jacholkowski, Senior Business Solution Manager Digital Health w Zühlke, moderator dyskusji.

Sztuczna inteligencja może w końcu zrobić użytek z masy danych, które są gromadzone w EDM, ale do których rzadko się wraca. Przykładowo, do prognozowania stanu zdrowia i planowania profilaktyki. Generatywna AI łączy ze sobą dane z różnych źródeł, nawet jeśli nie są kompatybilne. Na przykład, AI może porównać dane z EDM z nowymi wynikami badań naukowych i zasugerować najbardziej odpowiedni dla pacjenta lek.

Podobnie jak AI pomaga radiologom w analizowaniu tysięcy obrazów, innym lekarzom pozwoli zmniejszyć liczbę błędów związanych z brakiem czasu na manualne przeglądanie całej historii leczenia i każdego detalu. Generatywna sztuczna inteligencja potrafi też oczyścić dane przechowywane w EDM z błędów i literówek, a nawet zamienić nieustrukturyzowane dane w obowiązujące formaty, jak FHIR. Takie porządkowanie danych ułatwia z kolei ich zastosowanie do analiz Big Data.

Zanim się to stanie, jest kilka problemów do pokonania. Nowe modele AI muszą zostać dokładnie zweryfikowane, aby upewnić się, że ich odpowiedzi są wiarygodne. Wystarczy jedna fałszywa informacja lub halucynacja, a lekarz może stracić zaufanie do systemu, lub co gorsza – może podjąć błędną decyzję zagrażającą zdrowiu pacjenta. Ze względu na specyfikę generatywnej AI jest mało prawdopodobne, że w najbliższym czasie modele tego typu będą ceryfikowane podobnie jak urządzenia medyczne. Z drugiej strony, zastosowanie każdego urządzenia stosowanego w medycynie wiąże się z ryzykiem, nawet tego certyfikowanego.

Rozwiązaniem mogą być też duże modele językowe profilowane w zależności od zadania i trenowane na danych medycznych. Według Dhalliwala, w najbliższych sześciu miesiącach niemal codziennie będzie powstał nowy duży model językowy.

Sztuczna inteligencja może inteligentnie kłamać

Lisa Falco, ekspertka Femtech podkreśla jeszcze jedno niebezpieczeństwo związane ze sztuczną inteligencją: Bias in – Bias out (stronniczość na wejściu – stronniczość na wyjściu). Wiadomo, że sztuczna inteligencja ma halucynacje i czasami udziela nieprawidłowych odpowiedzi. Problem wynika często z niereprezentatywnych danych. – Sztuczna inteligencja, podejmując decyzje powinna od razu ostrzegać o potencjalnych ograniczeniach wynikających np. z niepełnych danych – sugeruje Falco. Mając do dyspozycji takie transparentne dane, lekarz – kierując się swoim doświadczeniem – mógłby zdecydować, czy sugestia AI jest pomocna, czy nie.

Dhalliwal twierdzi, że AI trzeba postrzegać jako kolejne narzędzie wspomagające, a nie jako coś lepszego od lekarzy. Jego zdaniem, powszechnie panujący sceptycyzm jest normalny – jest to na tyle nowa technologia, że potrzebuje czasu, aby zdobyć zaufanie.

Nadal daleko od urządzeń medycznych z wbudowaną generatywną AI

Czy kiedykolwiek zbudujemy systemy generatywnej AI klasy medycznej spełniające rygorystyczne kryteria dla urządzeń medycznych?

– To wykonalne, jeśli stworzymy tzw. wytłumaczalne modele sztucznej inteligencji, czyli takie, których sposób wnioskowania da się śledzić i wyjaśnić. Drugim warunkiem jest trendowanie modeli AI na dobrej jakości danych i zaprojektowanie nowych procedur pracy łączych ekspertyzę AI z wiedzą człowieka – mówi Falco. Dhalliwal twierdzi z kolei, że najważniejsza jest skuteczność potwierdzona badaniami klinicznymi, a nie sama certyfikacja. Przykładem jest narzędzie do diagnozowania retinopatii cukrzycowej za pomocą smartfona, opracowane przez Google. Smartfon nie jest urządzeniem klasy medycznej, ale sprawdza się w stawianiu wstępnej diagnozy.

Organy regulacyjne będą miały trudny orzech do zgryzienia. Warto wspomnieć, że pośród kilkuset certyfikowanych w USA urządzeń medycznych wykorzystujących algorytmy AI i uczenia maszynowego, na razie nie ma ani jednego opartego na generatywnej AI.

Dokładność każdego narzędzia stosowanego w opiece zdrowotnej, w tym AI, jest priorytetowa, ponieważ mają one wpływ na zdrowie i życie pacjentów. Dlatego rygorystyczne podejście jest konieczne. Z drugiej strony, klasyczne procedury certyfikacji urządzeń medycznych nie sprawdzą się w stosunku do AI: działanie wielu modeli trudno wyjaśnić bo opierają się na miliardach reguł, do tego systemy AI cały czas się uczą i rozwijają. Skoro korzyści płynące z zastosowania sztucznej inteligencji w medycynie są większe niż suma zagrożeń, to czekanie z wdrażaniem AI do medycyny do momentu, gdy będzi ona 100% bezpieczna, jest etycznie nieakceptowalne.

---

Słownik AI

Generatywna AI (Generative AI) – obszar sztucznej inteligencji, który skupia się na tworzeniu nowych, autonomicznie wygenerowanych treści, danych lub zachowań, zazwyczaj przy użyciu zaawansowanych modeli generatywnych. Te modele są zdolne do samodzielnego tworzenia nowych przykładów danych, które nie były wcześniej widziane w zestawie treningowym.

Wytłumaczalna AI (Explainable AI, XAI) – podejście w dziedzinie sztucznej inteligencji, które dąży do zapewnienia możliwości zrozumienia i interpretacji decyzji podjętych przez modele AI przez ludzi. W odróżnieniu od niektórych bardziej skomplikowanych modeli, które mogą działać jak „czarne skrzynki” i są trudne do zrozumienia, XAI stawia na transparentność i interpretowalność algorytmów.

Black Box – stan, w którym działanie modelu lub algorytmu jest trudne do zrozumienia przez ludzi, którzy nie są bezpośrednio zaangażowani w jego projektowanie i rozwijanie. Oznacza to, że procesy podejmowania decyzji wewnątrz modelu są nieprzejrzyste i trudne do interpretacji, co sprawia, że model funkcjonuje jak „czarna skrzynka”, gdzie dane wejściowe i wyjściowe są zrozumiałe, ale wewnętrzne mechanizmy nie są możliwe do wytłumaczenia.

Czytaj także: Zaskakujące badania nad wykorzystaniem AI w kardiologii