W przeciwieństwie do zawiłego i nastawionego na ograniczenia europejskiego EU AI Act, Stany Zjednoczone wypracowały pragmatyczne zasady minimalizujące negatywne skutki AI i pobudzające jej rozwój.

Regulacje i wsparcie dla AI w USA

30 października 2023 roku Prezydent Biden wydał rozporządzenie wykonawcze w sprawie bezpiecznej i zaufanej sztucznej inteligencji, aby „Ameryka stała się liderem w realizacji obietnic i zarządzaniu ryzykiem, które wiążą się ze sztuczną inteligencją (AI)”.

W przeciwieństwie do Europy skupionej na restrykcjach i ograniczeniach, USA podeszły do regulacji AI w pragmatyczny sposób, namawiając firmy nowych technologii do zobowiązania się do wspierania bezpiecznego i godnego zaufania rozwoju sztucznej inteligencji. Do inicjatywy dołączyło 15 liderów rynku AI.

Na podobny krok zdecydowała się też Kanada tworząc kodeks postępowania w zakresie odpowiedzialnego rozwoju i zarządzania zaawansowanymi systemami generatywnej sztucznej inteligencji (eng.: Voluntary Code of Conduct on the Responsible Development and Management of Advanced Generative AI Systems). Firmy mogą do niego przystąpić dobrowolnie, ale jego podpisanie jest pewnego rodzaju certyfikatem wiarygodności dla klientów.

Szkodliwe zastosowania AI

Rozporządzenie wykonawcze Prezydenta Joe Bidena ustanawia nowe standardy bezpieczeństwa i ochrony przed negatywnym skutkami AI.

Wymaga ono, aby twórcy systemów sztucznej inteligencji dzielili się wynikami testów bezpieczeństwa i innymi krytycznymi informacjami z rządem USA. Zamiast tworzenia nowego prawa, podciągnięto systemy AI mogące stanowić zagrożenie dla bezpieczeństwa narodowego pod ustawę o produkcji obronnej (Defense Production Act).

Firmy są zobowiązane, aby opracować narzędzia (standardy, testy itd.), dzięki którym będzie można zapewnić, że systemy AI są bezpieczne i godne zaufania. Odpowiednie zasady ma stworzyć Narodowy Instytut Standardów i Technologii. Kolejny element to ochrona przed ryzykiem związanym z wykorzystaniem sztucznej inteligencji do tworzenia niebezpiecznych materiałów biologicznych. Agencje finansujące projekty z zakresu nauk przyrodniczych będą musiały opracować własne standardy, aby w ogóle otrzymać finansowanie publiczne.

Jest też mowa o ochronie obywateli przed fake newsami generowanymi przez AI. Departament Handlu ma opracować wytyczne dotyczące uwierzytelniania treści i znaków wodnych, dzięki którym będzie można oznaczać treści tworzone przez sztuczną inteligencję.

Prywatność, dane, dyskryminacja

Dużo miejsca poświęcono ochronie prywatności obywateli przed nielegalnym wykorzystaniem ich danych do trenowania modeli AI. Ale dekret Prezydenta USA jedynie „wzywa” Kongres do przyjęcia odpowiednich przepisów. Pamiętajmy, że Europa jest w tej kwestii o krok do przodu, odkąd obowiązuje RODO.

O wiele większym wyzwaniem jest zapobieganie tworzeniu dyskryminujących algorytmów AI. A takie mogą powstać, gdy są trenowane na niereprezentatywnych danych. Administracja Bidena skupiła się na profilaktyce tzw. dyskryminacji algorytmicznej w agencjach rządowych, jak np. sądownictwie oraz w firmach realizujących kontrakty na rzecz administracji rządowej.

Jest też wzmianka o AI w medycynie. Jej rozwój ma być nastawiony na poprawę funkcjonowania opieki zdrowotnej oraz opracowanie niedrogich i ratujących życie leków. Departament Zdrowia i Opieki Społecznej ustanowi program bezpieczeństwa w celu zapobiegania szkodom lub niebezpiecznym praktykom wynikającym z zastosowania sztucznej inteligencji w ochronie zdrowia.

Kolejny rozdział poświęcono rynkowi pracy. Chodzi o opracowanie zasad, które mają zapobiec m.in. niesprawiedliwym systemom AI do rekrutacji i oceny pracowników albo zaniżania wynagrodzeń.

Liberalne środowisko dla rozwoju AI

Jest dużo prawdy w powiedzeniu, że „Europa reguluje, a USA rozwijają innowacje” (eng.: The European Union regulates, while America innovates). Rozporządzenie mówi wprost: USA jest liderem w dziedzinie innowacji w zakresie sztucznej inteligencji. I tak ma zostać. W 2022 roku liczba startupów AI, które pozyskały kapitał w USA była większa niż ich łączna suma w czołowych siedmiu konkurujących krajach. Biały Dom nie zamierza utracić tej pozycji poprzez nadmierne ograniczanie swobody rozwoju AI i zapowiada wsparcie badań nad AI. W dekrecie mowa jest m.in. o dodatkowych dotacjach na badania nad sztuczną inteligencją w opiece zdrowotnej i ochronie środowiska oraz łatwiejszym dostępie do baz danych i algorytmów przez naukowców.

Joe Biden deklaruje też promowanie otwartego i konkurencyjnego ekosystemu sztucznej inteligencji oraz pomoc małym firmom w komercjalizacji przełomowych rozwiązań AI. USA są wyjątkowo otwarte na import wysokokwalifikowanej kadry inżynierów AI. Na końcu rozporządzenia pojawiają się zapisy o współpracy USA z innymi krajami. W końcu wyzwania i możliwości związane ze sztuczną inteligencją mają charakter globalny. Jednak tutaj trudno znaleźć konkrety. Za to jest dużo ogólników mówiących o „ustanowieniu solidnych międzynarodowych ram dla wykorzystania korzyści płynących ze sztucznej inteligencji oraz zarządzaniu ryzykiem i zapewnieniu bezpieczeństwa” oraz dążeniu do zapewnienia, że „technologia jest godna zaufania i interoperacyjna”.

USA wiedzą, że sztuczna inteligencja i generatywna sztuczna inteligencja będą siłą napędową gospodarek przyszłości. Dlatego ani nie myślą o oddaniu pozycji lidera i ograniczeniu swobody rozwoju innowacji w Dolinie Krzemowej. Dokument Joe Bidena nie wprowadza żadnych drastycznych ograniczeń dla firm przełomowych technologii jak Microsoft, Apple, Google, OpenAI i długiej listy startupów. Tym samym USA podeszły do regulacji AI zupełnie inaczej niż Europa.

W rozwoju innowacji opartych na AI Stary Kontynent jest daleko za USA i Chinami, ale za to ma ambicje, aby zostać liderem w ich regulowaniu. Ten paradoks może za kilka lat odbić się czkawką.

Czytaj także: Jak AI może zredukować koszty opieki zdrowotnej. 5 przykładów

Po odwołaniu Piotra Kikosickiego, nowym Dyrektorem Centrum e-Zdrowia został dr Tomasz Jeruzalski. Kim jest osoba, która pokieruje rozwojem e-zdrowia w Polsce?

Tomasz Jeruzalski pełnił od 2010 roku funkcję Dyrektora Sekcji Informatycznej w Katedrze Zarządzania i Technologii Informacyjnych na Uniwersytecie Warszawskim. Od 2020 roku był menedżerzem ds. projektów w Instytucie Łączności – Państwowym Instytucie Badawczym.

Jeruzalski ma duże doświadczenie w zakresie projektów informatycznych. Od 2016 do 2019 roku zarządzał Pionem Informatyki i Telekomunikacji w Poczcie Polskiej.

Pracował jako ekspert IT w Ministerstwie Gospodarki (obecnie Ministerstwo Rozwoju i Technologii) w latach 2010-2016, gdzie odpowiedzialny był za ocenę projektów z zakresu IT w Programie Operacyjnym Innowacyjna Gospodarka 2007-2013. Z Ministerstem Gospodarki był związany od 2003 roku.

Z ochroną zdrowia ma niewiele wspólnego poza kilkoma projektami. W latach 2011-2013 zaangażowany był w prace nad nowelizacją ustawy o informatyzacji działalności podmiotów realizujących zadania publiczne, w tym także projekt eWUŚ. W latach 2014-2014 był Doradcą Zarządu i Rady Naukowej w zakresie ICT (technologii informacyno-telekomunikacyjnych) w Polskiej Unii Onkologii.

Centrum e-Zdrowia jest jednostką podległą Ministerstwu Zdrowia, odpowiedzialną za cyfryzację ochrony zdrowia. W CeZ pracuje 350 osób.

Czytaj także: Paweł Kikosicki nie jest już Dyrektorem Centrum e-Zdrowia

Podczas targów innowacji CES 2024, Withings zaprezentował minimalistyczny gadżet do mierzenia kilku ważnych parametrów zdrowia w domu.

BeamO zamiast czterech urządzeń

CES to odbywające się co roku największe targi elektroniki konsumenckiej na świecie. Podczas tegorocznej edycji (9–12 stycznia 2024), francuski producent urządzeń do monitoringu zdrowia Withings pokazał swoje najnowsze urządzenie do diagnostyki domowej – BeamO. Gadżet wielkości dłoni mieści w sobie elektrokardiogram (EKG), pulsoksymetr, stetoskop i termometr.

– Kiedyś temperatura ciała była jedynym rutynowym pomiarem wykonywanym w domu. BeamO zrewolucjonizuje pomiar podstawowych parametrów życiowych przeprowadzanych podczas wizyt lekarskich w zaciszu własnego domu – mówi prezes Withings, Éric Carreel. Urządzenie służy do indywidualnego monitoringu zdrowia, ale można je także wykorzystać podczas telewizyt, przesyłając lekarzowi zebrane dane.

Bezprzewodowe pomiary parametrów ciała

BeamO wykorzystuje czujniki fal świetlnych i informacje akustyczne, aby wykrywać wzorce przepływu krwi i temperaturę. Na tej podstawie możliwe jest określenie poziomu nasycenia krwi tlenem (SpO2) i odczyt tętna. Jednoprzewodowe EKG wykorzystuje z kolei technologią stosowaną w wyższej klasy smartwatchach, takich jak Apple Watch. Aby wykonać EKG albo zmierzyć saturację, należy chwycić urządzenie obiema rękami.

Temperaturę mierzy się przysuwając BeamO do skroni – czujnik Withings Thermo skanuje tętnicę skroniową w podczerwieni. Cyfrowy stetoskop przechwytuje dźwięki akustyczne przez klatkę piersiową lub plecy, pozwalając na dokładne osłuchanie serca i płuc. Port USB-C umożliwia strumieniowe przesyłanie dźwięku do lekarza podczas telekonsultacji. Zestaw samouczków w aplikacji mobilnej zintegrowanej z urządzeniem pomaga w prawidłowym ustawieniu urządzenia. W apce można przejrzeć wszystkie wyniki oraz przesłać jego do lekarza.

Withings twierdzi, że nowy gadżet przeprowadza wszystkie pomiary w mniej niż minutę. Oprócz tego wstępnie interpretuje wyniki, ostrzegając o gorączce, infekcjach, migotaniu przedsionków i innych dolegliwościach.

Choć BeamO miał już swoją premierę podczas CES 2024, na razie nie jest dostępny w sprzedaży. W USA, najpierw musi być zatwierdzony przez Amerykańską Agencję ds. Żywności i Leków (FDA). W Europie powinien być dostępny latem 2024 roku, po otrzymaniu znaku CE. Cena: 249,95 euro.

Czytaj także: 19 najciekawszych technologii dla zdrowia 2023

Nike Training Club uważana jest za jedną z najlepszych darmowych aplikacji fitness. Sprawdzamy, czy słusznie.

Aplikacja do ćwiczeń na siłowni i w domu

Aplikacja Nike to społeczność osób, które chcą się ruszać, uprawiać sport, poprawić swoją kondycję fizyczną albo osiągnąć własne cele treningowe. Wybór ćwiczeń i filmów instruktażowych jest ogromny i dopasowany do każdych oczekiwań. Wśród nich m.in. ćwiczenia do wykonywania w domu dopasowane do małych przestrzeni, total-body fitness, treningi wysokiej intensywności trwające 20 minut lub krócej, ćwiczenia wybranych partii mięśni oraz wytrzymałościowe (kardio). Razem to ponad 300 ćwiczeń i programów wellness.

Oprócz tego joga, mindfulness, medytacje z przewodnikiem, porady w zakresie odżywiania się, wspólne gotowanie, ćwiczenia relaksacyjne. Można dowolnie wybierać programy treningowe dopasowane do własnych potrzeb i formy oraz prowadzone przez trenerów Nike.

Osoby, które nie mają czasu na fitness polubią opcję doboru długości treningu, na jaki mogą sobie pozwolić. Od czasu pandemii COVID-19, aplikację rozbudowano o ćwiczenia wykonywane poza siłownią, jak pilates i treningi niewymagające sprzętu, wykorzystujące własny ciężar ciała. Regularnie dodawane są premierowe treningi z udziałem sportowców i nowych trenerów.

Najlepiej działa na smartwatchu

Z Nike Training Club można korzystać na smartfonie, powtarzając wyświetlane na ekranie ćwiczenia. Jednak najlepszą wygodę oferuje obsługa z pomocą smartwatcha (możliwość integracji z modelami różnych firm). To pomaga przełączać się pomiędzy poszczególnymi ćwiczeniami, mierzyć efekty i parametry treningu jak tętno i liczba spalonych kalorii.

Nike oferuje też inne dedykowane aplikacje takie jak Nike Run Club dla osób lubiących bieganie. I to wszystko całkowicie za darmo po zalogowaniu się do klubu Nike’a. Teoretycznie, bo Nike oczywiście promuje własne produkty (trenerzy noszą ubrania Nike) i w ten sposób buduje bazę potencjalnych klientów.

Trzeba wspomnieć, że apka zbiera sporo danych jak lokalizację, historia wyszukiwania, dane o zakupach i zdrowotne. Płacimy więc danymi, choć polityka ich przetwarzania jest transparentna. Wady: apka odstaje pod względem szaty graficznej i jakości wideo od płatnej konkurencji, jak np. Freeletics czy Fitness+ od Apple.

Pobierz aplikację Nike Training Club w:

• Apple Store
• Google Play

Czytaj także: Z tą apką liczenie kalorii jest proste i szybkie

Paweł Kikosicki odchodzi z Centrum e-Zdrowia (CeZ). O swojej decyzji poinformował na portalu społecznościowym LinkedIn. Funkcję Szefa CeZ – instytucji odpowiedzialnej za cyfryzację rynku zdrowia – pełnił od 1 lutego 2022 do 2 lutego 2024 roku.

– Po ponad 2 latach nadszedł czas pożegnać się z Centrum e-Zdrowia. To był bardzo intensywny okres, w trakcie którego wykonaliśmy kawał dobrej roboty – napisał na LinkedIn Paweł Kikosicki, dodając, że było to okres „niesamowitego rozwoju aplikacji moje IKP oraz Internetowego Konta Pacjenta”.

– To dziesiątki wdrożeń, które być może nie są tak widoczne i spektakularne, ale są bardzo ważne z punktu widzenia ponad 50 systemów i rejestrów, jakimi zarządza Centrum. To dziesiątki kampanii promocyjnych systemu e-zdrowia, ale też dziesiątki szkoleń, jakie przeprowadzili eksperci CEZ.

Paweł Kikosicki podziękował przy okazji byłemu Ministrowi Zdrowia za rządów PiS, Adamowi Niedzielskiemu, który powołał go na stanowisko Dyrektora CeZ.  Wcześiej Kikosicki nadzorował w NFZ budowę systemu do zarządzania relacjami z klientami.

Dyrektor Kikosicki napisał także, że „nowemu Szefowi Centrum e-Zdrowia życzy powodzenia w realizacji planów i będę gorąco kibicował!”. Nie wiadomo na razie, czy Kikoskicki został odwołany z funkcji dyrektora przez nową Minister Zdrowia, czy zrezygnował sam. Kilka dni wcześniej, w wywiadzie dla TVN 24, szefowa resortu zdrowia Izabela Leszczyna mówiła o tym, że Centrum e-Zdrowia potrzebne są zmiany, także zmiany w zarządzaniu.

Na razie nie wiadomo, kto zastąpi Pawła Kikosickiego.

Czytaj także: Minister Zdrowia zapowiada zmiany w Centrum e-Zdrowia

Wytarczy połknąć małą e-tabletkę przed posiłkiem, aby wywołać uczucie sytości. Mechanizm oszukuje mózg, który pod wpływem impulsów z żołądka redukuje apetyt.

Jak to działa?

Podczas każdego posiłku żołądek wysyła do mózgu sygnały wywołujące uczucie sytości. Ten mechanizm ma chronić przed przejedzeniem i reguluje ilość spożywanego pokarmu. Inżynierowie z Massachusetts Institute of Technology (MIT) postanowili wykorzystać ten naturalny system samoregulacji. Zaprojektowana przez nich pigułka wibruje w żołądku, aktywując te same receptory, które informują mózg o tym, że żołądek jest pełny i należy przestać jeść. W tym momencie mózg obniża poziom greliny – hormonu pobudzającego głód.

U zwierząt, którym podano pigułkę 20 minut przed jedzeniem, zaobserwowano stymulację uwalniania hormonów sygnalizujących sytość i w efekcie zmniejszenie spożycia pokarmu przez zwierzęta o około 40 procent. Badania sugerują, że technologia może być bezpiecznie stosowana u ludzi i jest minimalnie inwazyjnym, niefarmakologicznym sposobem leczenia otyłości. W badaniu na zwierzętach naukowcy wykazali, że gdy pigułka zaczyna wibrować, aktywuje receptory, które wysyłają sygnały do mózgu poprzez stymulację nerwu błędnego. W efekcie uwalniane są hormony tak samo jak to ma miejsce w czasie posiłku.

Jak zbudowana jest kapsułka?

Wibrująca kapsułka, zaprojektowana w laboratorium Traverso, ma wielkość większej tabletki multiwitaminy. Wewnątrz znajduje się elektroniczny mechanizm. Pigułka jest zasilana małą baterią z tlenku srebra – gdy dociera do żołądka, kwaśne płyny żołądkowe rozpuszczają galaretowatą membranę pokrywającą kapsułkę, uzupełniając obwód elektroniczny, który aktywuje silnik wibracyjny.

Obecna wersja pigułki została zaprojektowana tak, aby wibrować przez około 30 minut po dotarciu do żołądka. Naukowcy planują przeprojektować urządzenie, aby dłużej pozostawało w żołądku. W ten sposób kapsułka mogłaby być włączana i wyłączana bezprzewodowo w razie potrzeby. W eksperymentach na zwierzętach tabletki przeszły przez przewód pokarmowy i zostały wydalone w ciągu czterech lub pięciu dni. Zwierzęta nie wykazywały żadnych oznak niedrożności, perforacji lub innych negatywnych skutków, gdy pigułka znajdowała się w ich przewodzie pokarmowym.

Nowa metoda na otyłość

Naukowcy twierdzą, że pigułka może stanowić alternatywę dla obecnych metod leczenia otyłości. Wiele osób ma problem ze zrzuceniem zbędnych kilogramów i w dłuższym czasie nie pomagają ani dieta, ani ćwiczenia. Z kolei interwencje chirurgiczne są mocno inwazyjne i powodują trwałe zmiany (np. zmniejszenie żołądka). Leki takie jak agoniści GLP-1 mogą wspomagać odchudzanie, ale większość z nich musi być wstrzykiwana, co utrudnia ich stosowanie. Kapsułki mogłyby być produkowane po niskich kosztach. Naukowcy chcą teraz zbadać możliwości masowej produkcji i przeprowadzić badania kliniczne na ludziach.

Czytaj także: Powstaje nowe urządzenie do świadomego sterowania snami

91% szpitali w Polsce „zgłasza zapotrzebowanie” w zakresie cyberbezpieczeństwa – wynika z badania Centrum e-Zdrowia. Tymczasem w 2024 czekają je nowe wyzwania cybernetyczne wynikające ze zmiany strategii hakerów i nowych metod ataków.

W szpitalach jest lepiej, POZ-ty dalej nieprzygotowane

Badanie CeZ przeprowadzone w 2023 roku sugeruje, że placówki skupiają się obecnie na poprawie odporności na cyberataki (25,8%), zwiększeniu ochrony danych osobowych (24,3%), poprawie ciągłości działania systemów informatycznych (16,9%) oraz szerzeniu wiedzy o zagrożeniach informatycznych wśród pracowników/kierownictwa jednostki (14%).

Niepokojąca jest jednak odpowiedź na pytanie o aktywne dbanie o bezpieczeństwo danych: tylko połowa ankietowanych placówek (51,5%) zadeklarowała, że już wcześniej (przed badaniem) podejmowała działania w zakresie cyberbezpieczeństwa. Z tego większość to szpitale (94%), a największe zaniedbania są w placówkach AOS i POZ. Badanie nie wskazuje powodów, ale można się jedynie domyślać, że jak zawsze chodzi o pieniądze oraz samą świadomość problemu.

W 70% przypadków, inwestycje w cyberbieczeństwo są finansowane ze środków własnych. Do własnych budżetów muszą sięgać najczęściej ambulatoryjne placówki medyczne, w przeciwieństwie do szpitali, gdzie aż 75% funduszy pochodzi ze wsparcia NFZ. Tylko w co 40-stej placówce udało się znaleźć pieniądze z funduszy UE lub ze środków publicznych, np. od podmiotów tworzących.

Jeśli pieniądze już są, to trafiają na monitorowanie bezpieczeństwa teleinformatycznego podmiotu (51,1% ankietowanych) i szkolenia dla pracowników z bezpieczeństwa informacji i cyberbezpieczeństwa (47,3%).

Można z dużą pewnością przyjąć, że rzeczywista ochrona danych jest na gorszym niż deklarowanym poziomie. Menedżerowie placówek medycznych powtarzają od lat, że nie mają pieniędzy na cyberbezpieczeństwo i nie stać ich na zatrudnienie deficytowych i drogich ekspertów, których i tak wchłaniają inne branże.

Więcej ataków na małe, nieprzygotowane placówki

Tymczasem statystyki za rok 2023 pokazują, że nie słabnie intensywność ataków na placówki ochrony zdrowia. W Polsce wystarczy wspomnieć o głośnej kradzieży danych w Laboratoriach ALAB. W 2021 roku polskie szpitale i przychodnie zgłosiły 13 ataków hakerów, a w 2022 roku było już ich 43. Faktyczna liczba jest kilkukrotnie większa, bo wiele podmiotów woli ukryć naruszenie bezpieczeństwa danych w obawie przed konsekwencjami.

Na całym świecie, codziennie rejestuje się ok. 250 ataków hakerów na podmioty medyczne. Według badania Check Point Research, w I półroczu 2023 r. liczba ataków na opiekę zdrowotną na świecie wzrosła o 18 proc. Z kolei według raportu IBM i Ponemon Institute z lipca 2023 r., naruszenia cyberbezpieczeństwa kosztowały organizacje opieki zdrowotnej średnio 10,1 miliona dolarów na incydent. W 2023 roku można zaobserwować zmianę taktyki hakerów. Ponieważ duże szpitale wzmocniły w ostatnich latach poziom bezpieczeństwa danych – co też wynika z ankiety CeZ – ofiarą coraz częściej stają się mniejsze placówki.

Spooning, czyli maile prawie jak z NFZ

Sektor zdrowia musi się też przygotować na zwiększoną liczbę cyberataków przeprowadzanych z pomocą sztucznej inteligencji. Wśród nich są personalizowane wiadomości phishingowe wykorzystujące nieuwagę pracowników ochrony zdrowia, czy adaptacyjne złośliwe oprogramowanie wymagające nowych zabezpieczeń. Hakerzy sięgają do coraz bardziej wyrafinowanych technik socjo-technicznych, w czym pomaga im AI.

A to oznacza jedno: nawet te placówki, które mają już politykę bezpieczeństwa informacyjnego, muszą ją zaktualizować m.in. o element aktywnego przewidywania i zapobiegania nowym rodzajom ryzyka cybernetycznego. Drugi ważny element strategii na 2024 to wzmocnienie zarządzania ryzykiem stron trzecich. Każda umowa outsourcingowa, która wymaga wymiany/powierzenia danych, powinna być solidnie przygotowana pod względem cyberbezpieczeństwa. Oprócz wstępnej oceny, należy zaplanować systematyczne przeglądy poziomu bezpieczeństwa. Tak samo ważne są regularne szkolenia pracowników informujące o potencjalnych zagrożeniach związanych z interakcjami z podmiotami zewnętrznymi.

Pracownicy powinni być na bieżąco z nowymi taktykami ataków. Przykładem jest np. spoofing e-mail albo telefoniczny, gdy oszust podszywa się pod podmiot lub osobę. Największy atak tego rodzaju miał miejsce w marcu 2023 roku. Placówki medyczne otrzymały wówczas maila wyglądającego jak informacja z NFZ, o tytule „Nowe oprogramowanie SZOI” albo „Aktualizacja systemu SZOI”. Wiadomości zostały wysłane z adresów bardzo podobnych do oficjalnych, np. informatycy@szoi-nfz.pl albo szoi@nfz-centrala.pl. Na pierwszy rzut oka mail trudno było odróżnić od prawdziwych komunikatów rozsyłanych przez NFZ. Pracownicy muszą wiedzieć, jak weryfikować maile, prośby o poufne informacje albo wezwania do zalogowania się do platform IT. W 2023 roku to właśnie phishing był najczęstszą przyczyną wycieku danych.

Nie można też zapominać o klasycznych zabezpieczeniach jak silne i regularnie zmieniane hasła, wykonywanie w czasie rzeczywistym kopii bezpieczeństwa, aktualizacja oprogramowania, zarządzanie dostępem do danych przez pracowników oraz minimalizacja zagrożeń wewnętrznych.

Wraz z tym jak szpitale stają się smart, integrując ze sobą urządzenia w ramach jednej infrastruktury IT, uwagi wymagają zagrożenia w ramach tzw. internetu rzeczy. Pierwsze statystyki za rok 2023 sugerują, że liczba ataków nie była drastycznie większa w porównaniu z rokiem 2022. Za to miały one o wiele bardziej katastrofalne skutki dla placówek medycznych. Zwiększyła się też liczba danych, które wyciekły, poszkodowanych osób oraz kwoty okupu.

Czytaj także: Insider threats, czyli jak chronić dane przed pracownikami

Pomimo dowodów na skuteczność generatywnej sztucznej inteligencji, jej wdrożenie w opiece zdrowotnej napotyka na sceptycyzm i przeszkody regulacyjne. Czy istnieje kompromis pomiędzy ogromnym potencjałem AI a ryzykiem halucynacji?

Relacja z dyskusji zorganizowanej przez szwajcarski hub innowacji DayOne „Generative AI in Healthcare: Hype or Hope?”.

Lepszy doktor ChatGPT czy brak diagnozy?

W opiece zdrowotnej generatywna sztuczna inteligencja (gen AI) ma zdemokratyzować dostęp do usług medycznych, wyręczyć personel w rutynowych zadaniach administracyjnych oraz pomóc pacjentom w poruszaniu się po złożonej wiedzy związanej ze zdrowiem i profilaktyką.

W perspektywie globalnej problem jest spory: ok. 400 mln ludzi nie ma dostępu nawet do podstawowej pomocy medycznej, 4,5 mld do opieki w ramach ubezpieczenia zdrowotnego. Tylko niewielki procent ludzi na ludzi na świecie może liczyć na nowoczesną, opartą na aktualnej wiedzy naukowej diagnozę i leczenie. Wynika to z nierówności ekonomicznych oraz zróżnicowanego rozmieszczenia infrastruktury ochrony zdrowia.

– Jedną z najważniejszych transformacji napędzaną sztuczną inteligencją będzie demokratyzacja dostępu do wiedzy medycznej dla miliardów ludzi na całym świecie – twierdzi Jas Dhalliwal, Global Principal Cloud Architect w Google. Przykładem jest szukanie diagnozy z pomocą ChatGPT albo chatboty doradzające w zakresie zdrowego stylu życia.

Choć na razie takie narzędzia są stosowane stosunkowo rzadko, ich popularyzacja jest niemal pewna – analogicznie do upowszechnienia się Google, który w początkach internetu był stosowany przez garstkę entuzjastów. Skoro ChatGPT zdaje egzaminy medyczne, już teraz posiada wiedzę, z której mogą skorzystać ludzie na całym świecie (bazowa wersja systemu, podobnie jak wyszukiwarka Google, jest darmowa).

Czy sztuczna inteligencja uratuje EHR?

Jednym z najbardziej wyczekiwanych zastosowań sztucznej inteligencji jest ułatwienie korzystania z elektronicznej dokumentacji medycznej. – Obecne systemy EDM wymagają długiego pisania, klikania i przechodzenia pomiędzy okienkami systemu. Praca z komputerem pochłania prawie połowę czasu na wizytę pacjenta. Wyobraź sobie teraz, że ten cały proces znika – to byłby przełom w historii opieki zdrowotnej i cyfryzacji – twierdzi Blaise Jacholkowski, Senior Business Solution Manager Digital Health w Zühlke, moderator dyskusji.

Sztuczna inteligencja może w końcu zrobić użytek z masy danych, które są gromadzone w EDM, ale do których rzadko się wraca. Przykładowo, do prognozowania stanu zdrowia i planowania profilaktyki. Generatywna AI łączy ze sobą dane z różnych źródeł, nawet jeśli nie są kompatybilne. Na przykład, AI może porównać dane z EDM z nowymi wynikami badań naukowych i zasugerować najbardziej odpowiedni dla pacjenta lek.

Podobnie jak AI pomaga radiologom w analizowaniu tysięcy obrazów, innym lekarzom pozwoli zmniejszyć liczbę błędów związanych z brakiem czasu na manualne przeglądanie całej historii leczenia i każdego detalu. Generatywna sztuczna inteligencja potrafi też oczyścić dane przechowywane w EDM z błędów i literówek, a nawet zamienić nieustrukturyzowane dane w obowiązujące formaty, jak FHIR. Takie porządkowanie danych ułatwia z kolei ich zastosowanie do analiz Big Data.

Zanim się to stanie, jest kilka problemów do pokonania. Nowe modele AI muszą zostać dokładnie zweryfikowane, aby upewnić się, że ich odpowiedzi są wiarygodne. Wystarczy jedna fałszywa informacja lub halucynacja, a lekarz może stracić zaufanie do systemu, lub co gorsza – może podjąć błędną decyzję zagrażającą zdrowiu pacjenta. Ze względu na specyfikę generatywnej AI jest mało prawdopodobne, że w najbliższym czasie modele tego typu będą ceryfikowane podobnie jak urządzenia medyczne. Z drugiej strony, zastosowanie każdego urządzenia stosowanego w medycynie wiąże się z ryzykiem, nawet tego certyfikowanego.

Rozwiązaniem mogą być też duże modele językowe profilowane w zależności od zadania i trenowane na danych medycznych. Według Dhalliwala, w najbliższych sześciu miesiącach niemal codziennie będzie powstał nowy duży model językowy.

Sztuczna inteligencja może inteligentnie kłamać

Lisa Falco, ekspertka Femtech podkreśla jeszcze jedno niebezpieczeństwo związane ze sztuczną inteligencją: Bias in – Bias out (stronniczość na wejściu – stronniczość na wyjściu). Wiadomo, że sztuczna inteligencja ma halucynacje i czasami udziela nieprawidłowych odpowiedzi. Problem wynika często z niereprezentatywnych danych. – Sztuczna inteligencja, podejmując decyzje powinna od razu ostrzegać o potencjalnych ograniczeniach wynikających np. z niepełnych danych – sugeruje Falco. Mając do dyspozycji takie transparentne dane, lekarz – kierując się swoim doświadczeniem – mógłby zdecydować, czy sugestia AI jest pomocna, czy nie.

Dhalliwal twierdzi, że AI trzeba postrzegać jako kolejne narzędzie wspomagające, a nie jako coś lepszego od lekarzy. Jego zdaniem, powszechnie panujący sceptycyzm jest normalny – jest to na tyle nowa technologia, że potrzebuje czasu, aby zdobyć zaufanie.

Nadal daleko od urządzeń medycznych z wbudowaną generatywną AI

Czy kiedykolwiek zbudujemy systemy generatywnej AI klasy medycznej spełniające rygorystyczne kryteria dla urządzeń medycznych?

– To wykonalne, jeśli stworzymy tzw. wytłumaczalne modele sztucznej inteligencji, czyli takie, których sposób wnioskowania da się śledzić i wyjaśnić. Drugim warunkiem jest trendowanie modeli AI na dobrej jakości danych i zaprojektowanie nowych procedur pracy łączych ekspertyzę AI z wiedzą człowieka – mówi Falco. Dhalliwal twierdzi z kolei, że najważniejsza jest skuteczność potwierdzona badaniami klinicznymi, a nie sama certyfikacja. Przykładem jest narzędzie do diagnozowania retinopatii cukrzycowej za pomocą smartfona, opracowane przez Google. Smartfon nie jest urządzeniem klasy medycznej, ale sprawdza się w stawianiu wstępnej diagnozy.

Organy regulacyjne będą miały trudny orzech do zgryzienia. Warto wspomnieć, że pośród kilkuset certyfikowanych w USA urządzeń medycznych wykorzystujących algorytmy AI i uczenia maszynowego, na razie nie ma ani jednego opartego na generatywnej AI.

Dokładność każdego narzędzia stosowanego w opiece zdrowotnej, w tym AI, jest priorytetowa, ponieważ mają one wpływ na zdrowie i życie pacjentów. Dlatego rygorystyczne podejście jest konieczne. Z drugiej strony, klasyczne procedury certyfikacji urządzeń medycznych nie sprawdzą się w stosunku do AI: działanie wielu modeli trudno wyjaśnić bo opierają się na miliardach reguł, do tego systemy AI cały czas się uczą i rozwijają. Skoro korzyści płynące z zastosowania sztucznej inteligencji w medycynie są większe niż suma zagrożeń, to czekanie z wdrażaniem AI do medycyny do momentu, gdy będzi ona 100% bezpieczna, jest etycznie nieakceptowalne.

---

Słownik AI

Generatywna AI (Generative AI) – obszar sztucznej inteligencji, który skupia się na tworzeniu nowych, autonomicznie wygenerowanych treści, danych lub zachowań, zazwyczaj przy użyciu zaawansowanych modeli generatywnych. Te modele są zdolne do samodzielnego tworzenia nowych przykładów danych, które nie były wcześniej widziane w zestawie treningowym.

Wytłumaczalna AI (Explainable AI, XAI) – podejście w dziedzinie sztucznej inteligencji, które dąży do zapewnienia możliwości zrozumienia i interpretacji decyzji podjętych przez modele AI przez ludzi. W odróżnieniu od niektórych bardziej skomplikowanych modeli, które mogą działać jak „czarne skrzynki” i są trudne do zrozumienia, XAI stawia na transparentność i interpretowalność algorytmów.

Black Box – stan, w którym działanie modelu lub algorytmu jest trudne do zrozumienia przez ludzi, którzy nie są bezpośrednio zaangażowani w jego projektowanie i rozwijanie. Oznacza to, że procesy podejmowania decyzji wewnątrz modelu są nieprzejrzyste i trudne do interpretacji, co sprawia, że model funkcjonuje jak „czarna skrzynka”, gdzie dane wejściowe i wyjściowe są zrozumiałe, ale wewnętrzne mechanizmy nie są możliwe do wytłumaczenia.

Czytaj także: Zaskakujące badania nad wykorzystaniem AI w kardiologii

Braki kadrowe, rosnące obciążenie pracą administracyjną, niskie nakłady na zdrowie – świadczeniodawcy sięgają po nowe modele opieki i eksperymentują z innowacjami technologicznymi, aby uporać się ze strukturalnymi problemami opieki zdrowotnej.

Automatyzacja i optymalizacja pracy

Już każdy szpital czy przychodnia mają trudności z zatrudnieniem personelu medycznego, a ograniczone budżety nie pozwalają na konkurowanie stawkami wynagrodzenia. Menedżerowie sięgają do innych metod, aby zatrzymać i przyciągnąć nowych pracowników, oferując wygodne i nowoczesne środowisko pracy. Na popularności zyskuje koncepcja inteligentnych szpitali i przychodni, gdzie systemy e-zdrowia minimalizują nakład pracy administracyjnej i redukują obciążenie rutynowymi czynnościami. Zwłaszcza młodzi lekarze chcą pracować nowocześnie.

Na znaczeniu zyskują sprawdzone systemy klasy business intelligence (BI) pozwalające menedżerom analizować wskaźniki efektywności i poprawiać przepływy pracy. Dzięki nim można np. monitorować wizyty pacjentów i na tej podstawie dopasowywać sposób pracy placówki.

Placówki medyczne nawiązują współpracę ze startupami, aby testować innowacyjne rozwiązania. Powstają komórki ds. sztucznej inteligencji, których zadaniem jest wprowadzanie najnowocześniejszych rozwiązań do codziennej pracy.

Telemedycyna i telekonsylia

Niedobory pracowników są szczególnie odczuwalne na obszarach wiejskich, a trendu ucieczki lekarzy do dużych ośrodków, oferujących lepsze warunki pracy, nie da się zatrzymać. Nic dziwnego, że w 2024 roku widać pierwsze oznaki zwiastujące powrót tzw. kiosków telemedycznych, a wiele placówek szuka szansy w nowych formach opieki. Przykład: w ramach Opieki Koordynowanej – do której przystąpiło już 30% placówek POZ – przychodnie nawiązują współpracę ze specjalistami, np. dietetykami. Konsultacje z nimi mogą odbywać się telemedycznie.

Z kolei w radiologii na popularności zyskuje podejście „hub-to-spoke”, gdzie centralny hub wspomaga pracę w mniejszych ośrodkach: pacjent jest badany na miejscu, ale lekarz konsultuje się ze specjalistą w ramach telekonsylium. Taki model zdalnej pracy nie jest niczym nowym. Na przykład, już kilka lat temu z rynku zniknęły małe laboratoria zlokalizowane w ośrodkach medycznych. W zamian pojawiły się elektroniczne systemy przekazywania wyników i lekarz ma dostęp do nich zaraz po realizacji badania.

Centralizacja danych i lepsza komunikacja z pacjentem

Na pełny dostęp do wszystkich danych pacjenta przyjdzie poczekać, bo jeszcze nie wszystkie placówki medyczne prowadzą i wymieniają elektroniczną dokumentację pacjenta. Ale placówki medyczne mogą dużo zrobić we własnym zakresie np. integrując własne systemy IT z aplikacjami dla pacjentów (możliwe w ramach jednego dostawcy IT).

Pacjent może samodzielnie umówić i odwołać wizytę prosto z aplikacji, wprowadzić objawy, połączyć się z lekarzem w ramach konsultacji zdalnej, zapłacić on-line za telewizytę prywatną, a wszystkie dane trafiają do systemu informatycznego placówki i nie muszą być ręcznie przepisywane.

Rozwój generatywnej sztucznej inteligencji zapowiada też duże zmiany w elektronicznej dokumentacji medycznej. AI może włączać do kartotek medycznych nawet dane, których nie da się zintegrować z EDM, wyszukiwać zależności w wynikach badań i ostrzegać przed niepokojącymi trendami na podstawie analizy danych z historii leczenia. Na całym świecie rośnie zainteresowanie tzw. systemami analityki predykcyjnej. Dotąd wdrażane w systemach IT szpitali, powoli wchodzą do systemów gabinetowych pomagając lekarzom podejmować oparte na danych decyzje.

Wykorzystanie danych zbieranych przez pacjentów

Od 2022 roku pacjenci mają dostęp do kolejnego, po Dr Google, potężnego narzędzia samodiagnozy: ChatGPT. Wystarczy wpisać objawy, a generatywna sztuczna inteligencja poda prawdopodobną diagnozę. I to z niezłym wynikiem – ChatGPT zdaje egzaminy medyczne odpowiadając poprawnie na 80–90% pytań.

W 2024 roku na rynek trafią nowe narzędzia dające jeszcze lepszy wgląd pacjentów w ich zdrowie.

Placówki medyczne muszą aktywnie włączać nowe technologie do procedur pracy, aby utrzymać zaufanie pacjentów i podnosić jakość opieki. Jednym z podejść jest wspomniane wcześniej rozwiązanie w postaci aplikacji dla pacjentów, w której mogą oni gromadzić dane z urządzeń ubieralnych i dzielić się nimi z lekarzem. W ten sposób lekarz daje pacjentom aktywnie zbierającym swoje dane poczucie, że są one uwzględniane w procesie diagnozy i leczenia, doceniając zaangażowanie chorego.

Zielone i cyfrowe placówki zdrowia

Polska w końcu dostanie ogromne pieniądze z Krajowego Planu Odbudowy (KPO). Do ochrony zdrowia trafi zastrzyk w kwocie 19,5 mld zł. Środki z KPO pójdą m.in. na cyfryzację, kształcenie kadr i zieloną transformację.

Jednym z punktów KPO jest „poprawa dostępności, odporności i skuteczności systemu ochrony zdrowia, m.in. przez zapewnienie wystarczających zasobów i przyspieszenie wdrażania usług e-zdrowia.” Placówki medyczne – choć na razie za wcześnie na konkrety – będą mogły też sięgnąć po środki w ramach budżetu na zmniejszenie energochłonności.

To może być niepowtarzalna szansa na zaplanowanie dużych inwestycji w rozbudowę infrastruktury IT i gromadzenia danych, a w efekcie – poprawę dojrzałości cyfrowej. Oprócz oczywistych zaległości do nadrobienia jak wdrażanie EDM, placówki medyczne w Polsce mają zaległości w bezpieczeństwie danych medycznych i analityce danych. Według najnowszych danych Centrum e-Zdrowia, tylko 15,4% placówek prowadzi repozytorium EDM w chmurze. Usługi chmurowe dają większą elastyczność w zarządzaniu danymi i powiększaniu zasobów pamięci, dodatkowe zabezpieczenia przed hakerami i o nowe możliwości przetwarzania danych.

Czytaj także: Analizuj dane z terminarza, aby poprawić zarządzanie przepływem pacjentów

Dwie młode Polki, Zofia Smoleń i Patrycja Machno, opracowały chatbot, który ma ułatwić diagnozę dolegliwości psychicznych i łączyć pacjentów z terapeutami. W stworzeniu innowacji pomogła technologia wykorzystywana przez ChatGPT.

Trudny wybór terapeuty

Obecne metody diagnozowania problemów psychicznych opierają się na deklarowanych przez pacjenta objawach, ale nie uwzględniają wystarczająco biologicznych aspektów. Nic dziwnego – nie jest łatwo na podstawie milionów impulsów elektrycznych mózgu zidentyfikować przyczyny zaburzeń psychicznych. Potrafi to jednak sztuczna inteligencja, rozpoznając korelacje w sygnałach, których ludzki mózg nie jest w stanie wychwycić.

Słabe rozpoznanie przyczyn stojących za zaburzeniami psychicznymi utrudnia badania i rozwój nowych metod leczenia. Psychiatrom i psychoterapeutom na ogół pozostaje próbowanie różnych metod leczenia aż do skutku.

Zagubione są też osoby, które decydują się na terapię. Nie wiedzą, do jakiego specjalisty zwrócić się z pomocą, od czego zacząć. Najczęściej trafiają do przypadkowo znalezionego terapeuty na podstawie opinii z internetu albo z polecenia najbliższych. Dwie studentki postanowiły to zmienić zakładając MindMatch – platformę dla psychologów, seksuologów, dietetyków, pedagogów, psychotraumatologów i psychoterapeutów. Dzięki wykorzystaniu AI, pacjenci mogą na niej znaleźć specjalistę pracującego według metodologii dopasowanej do charakteru choroby.

Chatbot słucha pacjenta i proponuje eksperta

Ich chatbot początkowo stanowił temat pracy magisterskiej. Zofia Smoleń w tym czasie studiowała Data Science na paryskim École Polytechnique, a Patrycja Machno – medycynę na Uniwersytecie Jagiellońskim. Postanowiły połączyć wiedzę medyczną z inżynierią danych, aby pomóc pacjentom z dolegliwościami psychicznymi. Stworzyły chatbota, któremu pacjenci zwierzają się ze swoich problemów. Chatbot analizuje wypowiedzi, dopasowując odpowiedniego psychologa, seksuologa, czy psychoterapeutę.

Aby rozpoznać objawy z opisu samopoczucia, chatbot wykorzystuje duży model językowy (Large Language Model) o tzw. architekturze Transformer, służący do klasyfikacji tekstu. Ta sama technologia stosowana jest w ChatGPT. Model klasyfikuje objawy zaburzeń psychicznych występujące w wypowiedzi pacjenta i następnie za pomocą drzewa decyzyjnego opartego na wiedzy medycznej grupuje je w zaburzenia. W ostatnim kroku dopasowuje specjalistów pracujących w takiej metodologii, która najlepiej się sprawdza do wykrytych zaburzeń.

Chatbot testuje obecnie 80 terapeutów korzystających z bezpłatnej platformy. Zdaniem terapeutów, w ok. 70% przypadków prawidłowo dobiera specjalistę do problemów pacjenta.

AI wyłapuje dane świadczące o wczesnych oznakach choroby

Na całym świecie powstają rozwiązania oparte na sztucznej inteligencji, które mają szansę zmienić sposób leczenia zaburzeń psychicznych i zwiększyć dostępność leczenia. Takie chatboty jak Woebot, Wysa i Youper oferują narzędzia terapeutyczne wykorzystywane przez psychologów, jak techniki terapii poznawczo-behawioralnej (CBT) i psychologii pozytywnej.

AI ma też ogromny potencjał w diagnozowaniu i badaniu zaburzeń psychicznych. Wyniki elektroencefalografii (EEG) są wykorzystywane w diagnostyce chorób psychicznych i badaniach nad nimi. W Szpitalu Uniwersyteckim w Krakowie powstaje projekt Mentalio – system oparty na sztucznej inteligencji sugerujący lekarzom diagnozy na podstawie danych ankietowych. Prowadzone są też badania nad nowymi biomarkerami chorób psychicznych, jak wyniki badań krwi, próbki głosu, nagrania wideo mimiki twarzy itd. Naukowcy mają nadzieję, że ich analiza przez systemy sztucznej inteligencji pozwoli diagnozować choroby z dużym wyprzedzeniem, zanim pojawią się odczuwalne przez pacjenta objawy.

AI pomaga, ale liczy się ludzka empatia i pomoc

AI już teraz odgrywa istotną rolę w wykrywaniu ryzyka samobójstwa. Meta (Facebook) i TikTok kontrolują treści publikowane i oglądane przez użytkowników pod kątem prawdopodobieństwa występowania myśli samobójczych oraz wyświetlają osobom z grup ryzyka specjalną stronę informującą o opcjach uzyskania pomocy.

Jak przyznają założycielki MindMatch, AI nie zastąpi specjalistów od zdrowia psychicznego. – Wartość terapii polega na spotkaniu z żywym człowiekiem. Sztuczna inteligencja może wspomóc specjalistów na etapie dopasowania formy pomocy i wstępnej oceny objawów – podkreślają Zofia Smoleń i Patrycja Machno.

System można bezpłatnie testować na stronie https://mindmatch.pl.

Czytaj także: Pierwsza aplikacja medyczna uzyskała certyfikat Ministerstwa Zdrowia