AI nie może stać się autorytetem w sprawach zdrowia

Dlaczego ChatGPT zagraża zaufaniu pacjentów do pracowników zdrowia? Czy Polska powinna refundować terapie cyfrowe? I czy pacjenci naprawdę czekają na Centralną e-Rejestrację? Rozmowa z Jakubem Adamskim, dyrektorem Departamentu Współpracy w Biurze Rzecznika Praw Pacjenta.

Jak zmienia się polski pacjent odkąd upowszechniają się telekonsultacje oraz nowe technologie jak aplikacje zdrowotne albo ChatGPT?

Choć trudno mówić o statystycznym pacjencie, można wyodrębnić dwa trendy. Z jednej strony, rośnie świadomość pacjentów, ale z drugiej – pogłębiają się nierówności w dostępie do informacji.

Dzięki coraz nowszym źródłom wiedzy oraz zaangażowaniu instytucji publicznych i pozarządowych w promocję informacji oraz działalność edukacyjną, pacjenci są lepiej poinformowani. Jednak obecny postęp niesie za sobą również ryzyko wzrostu nierówności społecznych oraz wykluczenia poprzez ograniczony dostęp do wiedzy oraz umiejętności korzystania ze sztucznej inteligencji. Zmniejsza się wykluczenie cyfrowe w starej formie (dostęp do internetu), ale jednocześnie rośnie w zakresie umiejętności sprawnego korzystania z najnowszych technologii m.in. takich jak, sztuczna inteligencja.

W tym procesie postępu technologicznego zazębiają się ze sobą dwa procesy: demokratyzuje się dostęp do nowych technologii, za którym nie nadąża wiedza o tym, jak z nich korzystać. Jak w przypadku każdej technologii, zawsze jest grupa „wczesnych innowatorów”, którzy szybko adaptują nowości i „późnych naśladowców”, którym zajmuje to więcej czasu. Ten proces włączania technologii do codziennego życia zależy od wielu czynników, jak dostęp do edukacji, wykształcenie albo koszt innowacji.

Systemy AI jak ChatGPT pomagają zdobywać informacje zdrowotne, ale nie są jeszcze w tym obszarze przełomem, bo podobną rolę pełni od lat Dr Google. To co obydwie technologie zmieniają, to relacja pacjenta z lekarzem.

Już w 2019 r. szacowano, że 7% zapytań w Google (ok. 70 000 w każdej minucie) dotyczy zdrowia. Pacjenci od dawna szukają wiedzy poza gabinetem lekarskim. Ale jest jedna duża różnica pomiędzy Dr Google a ChatGPT. Ten drugi przedstawia informację w sposób, który może budzić wyższy poziom ufności, co do prawidłowości odpowiedzi.

W przypadku Google, informacje znajdują się w źródle zewnętrznym, które stosunkowo łatwiej (choć jak pokazuje rzeczywistość – wcale nie łatwo) ocenić pod względem wiarygodności. Pacjent sam szuka informacji w różnych źródłach, porównuje znalezione informacje, konfrontuje ze sobą wyniki. To daje szansę na zastanowienie się i bardziej krytyczne podejście do przedstawionych informacji. Korzystając obecnie z AI, pacjent otrzymuje najczęściej jedną, spójną informację, która sformułowana jest w przekonujący sposób niezależnie od jej wartości merytorycznej. Może to również zniechęcać do zajrzenia do źródła. Pomijając fakt, że błędne informacje mogą wywołać nieuzasadniony niepokój albo generować niepotrzebne wizyty u lekarza, ten nowy sposób uzyskiwania informacji może mieć dodatkowo negatywny wpływ na zaufanie do personelu medycznego.

Odkąd zaczynamy ufać AI, pojawia się niebezpieczeństwo, że zaczniemy traktować AI jako autorytet – bo przecież AI ma dostęp do ogromnych zasobów wiedzy i wydaje się obiektywna. Istnieje ryzyko, że pacjenci będą bezkrytycznie ufać wskazaniom AI (zanim technologia ta osiągnie poziom dojrzałości, który będzie na to zaufanie zasługiwać) i wierzyć jej bardziej niż lekarzom. To może mieć dalszy negatywny wpływ na relację pacjenta z personelem medycznym.

Na razie trudno postawić grubą kreskę pomiędzy profesjonalnymi rozwiązaniami e-zdrowia dla pacjentów, bo certyfikowanymi, a tymi tworzonymi bez jakiekolwiek kontroli. Przykładem są aplikacje zdrowotne. W Polsce Ministerstwo Zdrowia próbuje uporządkować ten ekosystem za pomocą Portfela Aplikacji Zdrowotnych, ale inne kraje jak Francja i Niemcy przyjęły bardziej radykalne podejście, włączając sprawdzone aplikacje do koszyka usług gwarantowanych. Czy to dobry kierunek?

Wydaje się, że uregulowanie rynku aplikacji zdrowotnych na modłę np. rynku farmaceutycznego jest praktycznie niemożliwe. Nie mamy jednej kategorii aplikacji zdrowotnych – osobno powinniśmy traktować te, które po prostu pojawiają się w sklepach z aplikacjami Apple czy Google oraz te, które będą rejestrowane jako cyfrowe wyroby medyczne. A jeszcze inaczej te, za których skutecznością i bezpieczeństwem będą stały odpowiednie dowody naukowe. To, co możemy zrobić to edukować i uświadamiać społeczeństwo. Obecnie sama certyfikacja także nie rozwiązuje problemu, bo pacjentom ostatecznie trudno rozróżnić rozwiązania zaufane i sprawdzone od całej masy innych.

W warunkach polskich wprowadzenie refundacji aplikacji zdrowotnych może być celowe, jednak tylko wtedy, gdy będą one skuteczne – będą przynosić konkretny efekt zdrowotny (potwierdzony badaniami klinicznymi) i cechować się odpowiednią efektywnością kosztową. Nie wystarczy tutaj rejestracja jako wyrób medyczny, bo to sito jedynie przesiewa rozwiązania bezpieczne i realizujące deklarowane funkcje. Jeśli powyższe kryteria będą spełnione, nie widzę przeciwskazań, aby traktować tzw. terapie cyfrowe na równi z innymi technologiami medycznymi. Pod jednym warunkiem – musimy dla nich stosować te same standardy oceny jak np. obowiązujące leki.

W kontekście refundacji terapii cyfrowych, z przykrością stwierdzam, że nie stać nas na przyjmowanie założenia „nowe (czy nawet innowacyjne) jest na pewno lepsze”. Nie jestem też zwolennikiem kopiowania rozwiązań z innych systemów zdrowia, bo każdy charakteryzuje się swoją specyfiką, w szczególności dysponuje innym budżetem i realizuje inne priorytety.

Czy Biuro Praw Rzecznika Praw Pacjenta planuje wdrożenie rozwiązań AI do obsługi zapytań pacjentów?

Tak, poważnie to rozważamy, bo takie rozwiązania już dzisiaj ułatwiają komunikację. Jest jednak za wcześnie, aby mówić o konkretnych planach. Nastąpi to dopiero, gdy znajdziemy rozwiązanie odpowiadające na wyzwania z jakimi się mierzymy, stanowiąc często kluczowe źródło informacji i pomocy dla pacjentów.

Szczególna ostrożność wynika z warunków, w jakich funkcjonujemy. Często dzwonią pacjenci w sytuacjach kryzysowych, w sytuacjach zagrożenia życia, gdy naruszane są ich prawa, czują się zagubieni w systemie. Każdy przypadek jest inny. Musimy być w pewni, że szybko otrzymają pomoc adekwatną do problemu. Tutaj nie ma miejsca na pomyłki czy automatyczne odpowiedzi, które można powielić w stosunku do każdego dzwoniącego. Pacjenci oczekują również właściwego podejścia – wysłuchania i zrozumienia.

Jesteśmy otwarci na nowe technologie wspierające komunikację, ale także mamy świadomość ryzyk związanych z ich zastosowaniem. Dlatego jak na razie najpewniejszym punktem pomocy pozostaje człowiek potrafiący zareagować adekwatnie do sytuacji – czasem wystarczy udzielić odpowiedzi, a czasem niezbędna jest bezpośrednia interwencja. Oprócz bezpieczeństwa pacjentów, na włosku może zawisnąć reputacja Rzecznika Praw Pacjenta jako urzędu publicznego.

Bez problemu wyobrażam sobie jednak boty oparte na sztucznej inteligencji, pomagające pacjentom poszukującym informacji w węższych – bardziej szczegółowych – obszarach. Bot wytrenowany na odpowiednio dobranej wiedzy mógłby w sposób rzeczowy i wiarygodny odpowiadać np. na pytania związania ze szczepieniami ochronnymi.

Jednym z głównych projektów e-zdrowia realizowanych w 2025 roku jest Centralna e-Rejestracja. Czy z telefonów i zgłoszeń pacjentów obsługiwanych przez Rzecznika Praw Pacjenta wynika, że to jest to rozwiązanie, którego oczekują pacjenci?

Tak. Większość zgłoszeń u RPP to nie są skargi, ale zgłoszenia problemów, z którymi borykają się pacjenci. Pacjenci wskazują nie tylko, że nie mogą dodzwonić się do placówki medycznej, ale równie często nie wiedzą, gdzie do specjalisty mają się umówić na dalsze badania. Widzimy więc problemy związane z poruszaniem się pacjentów po systemie ochrony zdrowia i brakiem łatwego dostępu do potrzebnych im informacji.

Z tej perspektywy, Centralna e-Rejestracja jest wycelowana w rozwiązanie rzeczywistego problemu pacjentów i może poprawić zadowolenie pacjentów z ochrony zdrowia i dostęp do usług medycznych.

Czego życzyłby Pan sobie, aby poprawić sytuację pacjentów?

Obok skrócenia czasu oczekiwania, życzyłbym sobie poprawy sytuacji w zakresie komunikacji i dostępności informacji. Wbrew pozorom, wiele praktycznych informacji nie jest dostępnych w internecie albo po prostu nie wiadomo, gdzie ich szukać. System zdrowia nie jest transparentny. Warto by pacjenci mieli łatwy dostęp do rzetelnych i zrozumiałych informacji pozwalających udać się na kolejną wizytę. Trzeba im w przyjazny sposób przedstawić informację o wolnych terminach i czasie oczekiwania, ale także o profilu i doświadczeniu placówki i jej personelu. Mam nadzieję, że z czasem same podmioty lecznicze będą publikowały o sobie coraz więcej informacji – w tym wskaźniki związane z jakością ibezpieczeństwem pacjenta.

Podsumowanie działań Rzecznika Praw Pacjenta w 2024 roku

• W 2024 roku wpłynęło ponad 1500 wniosków o przyznanie świadczenia, z czego 162 zakończyły się pozytywną decyzją.
• Łączna kwota wypłat wyniosła 9,5 mln zł, a średnia wypłata to około 60 tys. zł.
• Rzecznik Praw Pacjenta wszczął 322 postępowania zbiorowe i wydał 385 decyzji dotyczących naruszeń praw pacjentów. Szczególny nacisk położono na receptomaty i dostęp do leków odurzających (32 decyzje, w tym 23 dotyczące medycznej marihuany).
• Problemy pacjentów dotyczyły także m.in. rejestracji telefonicznej na wizyty oraz diagnostyki boreliozy w sposób niezgodny z wiedzą medyczną.
• Rzecznik wziął udział w 100 rozprawach sądowych, zaopiniował 102 projekty aktów prawnych i udzielił 65 interpretacji prawnych.
• W sprawach cywilnych pacjenci otrzymali 3,3 mln zł odszkodowań i zadośćuczynień, co łącznie od początku działalności urzędu wynosi 13 mln zł.
• Wydano ponad 2100 rozstrzygnięć w sprawach indywidualnych oraz podjęto 4000 spraw we współpracy z podmiotami medycznymi.
• Udzielono około 8 tys. pisemnych porad i pouczeń dla pacjentów.
• Infolinia udzieliła ponad 81 tys. porad i przeprowadziła 2200 interwencji w podmiotach leczniczych w sytuacjach zagrażających życiu lub zdrowiu pacjentów.

Czytaj także: Nie wszystkie potrzeby podmiotów w programie FEnIKS zostaną wsparte