„Lekarze nie mogą walczyć z AI, gdy ta jest od nich lepsza”

Czy lekarz może odmówić korzystania z AI, nawet jeśli ta poprawia jakość opieki? Nie – twierdzą autorzy opinii opublikowanej w „Annals of Internal Medicine”. Ale to oni odpowiadają za to, które wskazanie algorytmu wezmą pod uwagę i „nadają sens” podpowiedziom AI.

Autorzy artykułu „Risk, Accountability, and the Clinician’s Role in the Artificial Intelligence Era„, argumentują, że lekarze nie powinni opierać się przed AI. Jeśli system poprawia jakość opieki nad pacjentem, lekarze powinni zaakceptować fakt, że maszyna jest lepsza w niektórych zadaniach.

Przykładowo, już dziś AI precyzyjnie ocenia ryzyko wystąpienia choroby, ponieważ może analizować ogromne ilości danych, porównywać wyniki badań i na tej podstawie szacować prawdopodobieństwo korzyści lub szkód wynikających z określonego postępowania. Techniczna ocena ryzyka oparta na analizie danych od dawna należy do najtrudniejszych elementów leczenia i jest obszarem, w którym AI będzie prawdopodobnie coraz skuteczniejsza.

Dwóch pacjentów z taką samą diagnozą i takim samym ryzykiem może wymagać innego postępowania. Pod uwagę trzeba wziąć historię choroby, badania naukowe, cele i możliwości terapii. Algorytm może zrobić to dużo lepiej. Nie może jednak sam zdecydować, czy dane postępowanie jest najlepszym dla konkretnego pacjenta i jego preferencji.

Autorzy mówią o „management reasoning” – rozumowaniu dotyczącym wyboru leczenia, kontroli, badań i wykorzystania zasobów. W odróżnieniu od diagnostyki, której celem jest znalezienie jednej najlepszej odpowiedzi, chodzi o proces wyboru między kilkoma racjonalnymi możliwościami, z których każda niesie inne konsekwencje.

Przykładem jest przypadek 81-letniego pacjenta z niewydolnością serca. AI może wskazać terapię, która według danych klinicznych przynosi największe korzyści. Może również wskazać, że pacjent różni się od uczestników badań, na których oparto tę rekomendację. Pozostaje pytanie: jakie ryzyko powinien zaakceptować pacjent? Odpowiedzi nie da się sprowadzić do wartości procentowej.

Przyszła rola lekarza nie powinna polegać na „konkurowaniu z AI w analizowaniu informacji”, ale na odpowiedzialności zawodowej. Lekarz pozostaje osobą, która podejmuje decyzje dotyczące pacjenta, bierze na siebie ryzyko i odpowiada za konsekwencje metody leczenia, a także dalszą opiekę, jeśli to zakończy się niepowodzeniem.

To lekarz pozostaje osobą, do której pacjent zwraca się po wyjaśnienie podjętej decyzji i odpowiada za stworzenie zaufanej relacji.

Z drugiej strony, lekarz nie może być sprowadzony do roli osoby zatwierdzającyej rekomendacje algorytmu. Samo zaakceptowanie decyzji wygenerowanej przez AI nie jest jeszcze odpowiedzialnością. Ta rodzi się wtedy, gdy lekarz rozumie decyzję, ocenia ją w kontekście konkretnego pacjenta i świadomie godzi się na jej konsekwencje. To lekarz nadaje sens decyzji podjętej przez AI.

Czytaj także: Medycyna pilnie potrzebuje autonomicznej AI. Ale się jej boi