Pokaż, kotku, co masz w środku, czyli co sztuczna inteligencja ma na myśli

Jak cytować: Papież B.W.: Pokaż, kotku, co masz w środku, czyli co sztuczna inteligencja ma na myśli. Med. Prakt., 2025; 4: 114–120

Skróty: AI (artificial intelligence) – sztuczna inteligencja, EHDS – European Health Data Space Regulation, LLM (large language models) – duże modele językowe, USMLE – United States Medical Licensing Examination, XAI (explainable AI) – wyjaśnialna sztuczna inteligencja

Wszystkie ilustracje zostały wygenerowane za pomocą Microsoft Copilot.

Sukcesy zawodowe sztucznej inteligencji (AI), takie jak zaliczenie egzaminu United States Medical Licensing Examination (USMLE), od jakiegoś czasu nie robią już na nikim wrażenia.¹ Nowsze duże modele językowe (LLM) bardzo szybko dogoniły najlepszych studentów medycyny, a osiągane przez nie wyniki dawałyby im szansę dostania się na najbardziej oblegane specjalizacje – z wyjątkiem interny w Polsce (p. Med. Prakt., 2025; 2: 121–127). Nietrudno sobie wyobrazić przyszłość, w której LLM zostanie opakowany w humanoidalne „ciało”. Taki robot z dyplomem lekarskim będzie mógł brać dowolnie długi dyżur, przeprowadzać obchód lekarski i, bez znużenia oraz hektolitrów kawy, pytać pacjenta o samopoczucie, a także z wielkim uśmiechem na twarzy odpowiadać na pytania, które słyszał już milion razy.

Oczywiście pewna grupa lekarzy mogłaby w tym miejscu przypomnieć mi wprost, że pacjent nie jest od zadawania pytań, tylko od słuchania lekarza i sumiennego wykonywania zaleceń. Niemniej jednak załóżmy, przynajmniej na potrzeby tego artykułu, że pacjent może mieć wyjątkową ochotę dowiedzieć się, dlaczego lekarz stawia określoną diagnozę i czego może się w związku z nią spodziewać. Zatem zadajmy sobie pytanie: czy taka AI potrafi wyjaśnić swoją odpowiedź?

Kiedyś to było łatwiej

We wczesnych modelach AI opierających się na systemach eksperckich, w których AI polegała na kodowaniu pewnych reguł na podstawie specjalistycznej wiedzy i logiki matematycznej, albo na uczeniu maszynowym, AI była domyślnie wyjaśnialna. Wynikało to przede wszystkim z dwóch powodów. Po pierwsze, dostępne dane były zazwyczaj ograniczone i  uzyskiwane przez pracownika służby zdrowia (np. temperatura ciała, ciśnienie tętnicze skurczowe i rozkurczowe), co samo w sobie zapewniało swoisty poziom interpretowalności, ponieważ zmierzona wartość była proporcjonalna do potencjalnych skutków dla pacjenta (np. podwyższona temperatura ciała to stan podgorączkowy, a jeszcze wyższa to już gorączka lub nawet hipertermia). Po drugie, stosowane modele AI były, mówiąc prozaicznie, prymitywne z dzisiejszej perspektywy, a wiele zależności między danymi wejściowymi a odpowiedzią modelu można było pojąć „na chłopski rozum”. Jeśli na przykład pacjent źle się czuje, to należy mu zmierzyć temperaturę, a jeśli ta przekracza 38°C, wykonać kolejną czynność itd. Dopóki liczba parametrów, których model potrzebował do podjęcia decyzji, była rozsądna i nie przytłaczała użytkownika, interpretowalność wydawała się idealnym sposobem na budowanie zaufania między użytkownikiem a AI. Problemy pojawiły się jednak w momencie, gdy użytkownik otrzymywał zbyt dużo informacji (information overload) o sposobie działania modelu – taki stan skłaniał go nierzadko do nadmiernego ufania AI, a ostatecznie do podejmowania gorszych decyzji.² Co więcej, nadmiar szczegółów prowadził niekiedy do paraliżu decyzyjnego, czyli sytuacji, w której użytkownik zamiast podejmować logiczne decyzje, zmagał się z  przytłoczeniem dostępnymi danymi. Innym problemem była skłonność do bezkrytycznego polegania na modelach AI, nawet gdy generowały one wyniki sprzeczne z intuicją lub oczywistymi faktami. Użytkownicy mogli ignorować własne kompetencje na rzecz „autorytetu” AI, co mogło prowadzić do błędnych decyzji klinicznych lub operacyjnych.

Czarna skrzynka

Najpopularniejsza obecnie forma AI opiera się na głębokich sztucznych sieciach neuronowych, o których wspominałem krótko we wprowadzeniu do niniejszego cyklu (Med. Prakt., 2025; 1: 113–123). W głębokich sieciach neuronowych cyfrowe neurony, ułożone warstwa po warstwie, przekazują sobie informacje o tym, co otrzymały na wejściu, i  przetwarzają je tak, aby ostatecznie podjąć decyzję. Wraz z mnożeniem warstw, a tym samym głębokości (warstwowości) sieci neuronowej, poszerzają się możliwości tworzenia bardziej abstrakcyjnych wzorców i rozwiązywania bardziej skomplikowanych zadań. Aby sprostać skomplikowanym problemom medycznym, np. rozróżniać zmiany skórne,³ obecne modele AI są niezwykle duże, nawet z bilionami sztucznych neuronów – tak jak w najnowszych modelach ChatGPT‑4⁴. Każda warstwa wykonuje operacje matematyczne, co oznacza, że efekt końcowy jest wynikiem setek tysięcy (lub miliardów) operacji. Taka skomplikowana struktura modelu znacząco utrudnia prześledzenie konkretnego wpływu pojedynczej zmiennej wejściowej na końcową decyzję modelu. Dodatkowo sieci neuronowe (prawie zawsze) stosują nieliniowe funkcje aktywacji neuronów i podejmowania decyzji, co jeszcze bardziej komplikuje proces przetwarzania danych. O ile liniowość można pojąć „na chłopski rozum”, jak w przytoczonym powyżej przykładzie zmiany temperatury, to nieliniowość nie jest już tak intuicyjna. Nieliniowość nie podąża za przewidywalnymi wzorcami, do których jesteśmy przyzwyczajeni w codziennym życiu; zmiana jednej informacji na wejściu modelu może prowadzić do nieprzewidywalnych skoków lub spadków w końcowej decyzji. I jeśli tego byłoby jeszcze mało, to modele AI są trenowane i pracują na ogromnych zbiorach danych, w których mogą się znajdować wzorce całkowicie nieoczywiste lub nawet nieznane człowiekowi. To wszystko sprawia, że trudno bezpośrednio powiązać dane wejściowe modelu z jego odpowiedzią. W konsekwencji w kontekście AI opartej na głębokich sieciach neuronowych często używa się terminu „czarna skrzynka” (black box), który odzwierciedla świadomość, że wewnętrzne procesy decyzyjne są trudne albo nawet niemożliwe do zrozumienia lub wyjaśnienia, nawet przez osobę znającą techniczne aspekty AI. Mimo że można obserwować dane wejściowe i wyjściowe, sposób, w jaki model dochodzi do określonego wyniku, pozostaje nieprzejrzysty. Problem „czarnej skrzynki” stanowi istotne wyzwanie w dziedzinie AI, co doprowadziło do powstania nowej gałęzi nauki – wyjaśnialnej AI (explainable AI – XAI), czasami nazywanej także AI w szklanym pudełku (glass box AI).⁵ Celem XAI jest opracowanie metod i narzędzi, które pomagają lepiej zrozumieć działanie modeli AI, identyfikować potencjalne błędy oraz budować większe zaufanie do ich decyzji. Niestety nie każdy model AI da się „zapakować w szklane pudełko”, żeby zobaczyć, co jest w środku.

XAI: Czemu, ach czemu?

XAI stara się udzielić użytkownikom odpowiedzi na trzy podstawowe pytania: dlaczego model podjął określoną decyzję, jakie czynniki najsilniej wpłynęły na wynik oraz jak można poprawić ten wynik poprzez modyfikację danych wejściowych lub parametrów modelu. W wielu pracach naukowych pojawiły się stwierdzenia, że bez XAI modele AI mogą działać w  niezamierzony i niepożądany sposób, prowadząc do stronniczych (biased), a tym samym nieprawidłowych decyzji.⁶ Na przykład głęboka sieć neuronowa, która miała określić, czy znamię melanocytowe skóry widoczne na zdjęciach dermatoskopowych jest złośliwe, częściej klasyfikowała zmianę jako złośliwą, gdy na obrzeżach obrazu były widoczne znaczniki, zrobione dobrze widocznym fioletowym tuszem.^7,8 Wiązało się to z tym, że w ten właśnie sposób dermatolodzy oznaczali zmiany, które już wcześniej uznawali za podejrzane. Sieć neuronowa nauczyła się, że obecność fioletowego tuszu może być sygnałem złośliwości zmiany, zamiast skupić się na ocenie faktycznych cech skórnych. Taka błędna zależność (spurious correlation), której nauczył się model, wynikała ze specyficznych danych treningowych, w których zdjęcia z pierwszej wizyty (bez znacznika) oraz z kolejnych wizyt (ze znacznikiem) zostały wymieszane i użyte do trenowania sieci neuronowej. W konsekwencji model podejmował decyzje na podstawie nieprawdziwej przesłanki. Ten przykład pokazuje, że modele, których działania nie można zinterpretować, mogą stanowić zagrożenie dla etyki medycznej, ponieważ mogą prowadzić do negatywnych konsekwencji zarówno dla zdrowia konkretnych pacjentów, jak i – w przypadku wdrożenia takiego narzędzia na większą skalę – dla zdrowia publicznego. W czasie pandemii COVID‑19 wiele zespołów naukowych podjęło heroiczne wysiłki, aby zbudować modele AI zdolne do wykrywania COVID‑19 na radiogramach. Co więcej, wielu zespołom udało się je nawet opracować i opublikować wyniki w prestiżowych czasopismach, przedstawiając imponującą skuteczność na ograniczonych danych pochodzących z  pojedynczych szpitali. Problem pojawiał się jednak, gdy modele te były stosowane na obrazach rentgenowskich z innych szpitali, wówczas ich dokładność gwałtownie spadała. Po dokładniejszej analizie okazało się, że przyczyną było tzw. uczenie się na skróty (shortcut learning). Zamiast analizować rzeczywiste zmiany płucne, model nauczył się wykrywać różnice w ułożeniu pacjenta lub rodzajach projekcji radiograficznych. Na przykład koncentrował się na tym, czy projekcja jest przednio‑tylna (AP) czy tylno‑przednia (PA), i na tej podstawie oceniał, czy pacjent ma COVID‑19.⁹ Trudno w takiej sytuacji zaufać nawet bardzo dokładnemu modelowi, jeśli jego decyzje opierają się na przypadkowych lub nieistotnych cechach zamiast na faktycznych oznakach choroby. Tego rodzaju problemy podkreślają znaczenie wyjaśnialności w AI i potrzebę stosowania narzędzi XAI w praktyce klinicznej.

Powielacz uprzedzeń

Modele AI, których decyzje są trudne do zinterpretowania, pociągają za sobą także dylematy natury etycznej. Każdy model AI ma tendencję do powielania wzorców, których się nauczył z danych użytych do jego stworzenia. W związku z  tym może się także nauczyć powielać uprzedzenia, które znajdowały się w takim zbiorze danych. Uprzedzenia AI (AI bias), nazywane również uprzedzeniami algorytmicznymi (algorithmic bias), odnoszą się do systemów AI, które generują stronnicze wyniki, odzwierciedlające i utrwalające ludzkie uprzedzenia obecne w społeczeństwie, w tym nierówności społeczne, zarówno historyczne, jak i współczesne. Uprzedzenia mogą występować na różnych etapach, nie tylko w danych treningowych, ale także w samym algorytmie uczenia sieci neuronowej lub w generowanych przez niego przewidywaniach. Przez ostatnie lata w mediach można było przeczytać o wielu eksperymentach, które wykazały istotne uprzedzenia rasowe, genderowe i intersekcjonalne w sposobie, w jaki najnowocześniejsze LLM oceniały życiorysy kandydatów w procesie rekrutacji pracowników.¹⁰ Naukowcy zastosowali różne imiona kojarzone z białymi i  czarnymi mężczyznami oraz kobietami na rzeczywistych CV i odkryli, że LLM preferowały imiona kojarzone z białymi osobami w 85% przypadków, imiona kobiece jedynie w 11% przypadków, a nigdy nie faworyzowały imion czarnoskórych mężczyzn w porównaniu z imionami białych mężczyzn. Niestety problem dotyczy także zastosowań medycznych.¹¹ W tym kontekście istnieje wiele możliwości wprowadzenia niepożądanych uprzedzeń, które mogą być (czasami całkiem nieświadomie) zaimplementowane w modelach AI. Najczęstszym jest brak reprezentatywnej próby populacji w zbiorze danych treningowych. Historycznie w badaniach biomedycznych często zaniedbywano różnice biologiczne związane z płcią, a zarówno badania podstawowe, jak i kliniczne koncentrowały się zasadniczo na mężczyznach.¹² Jeśli ktoś korzysta z takich historycznych danych, które nadreprezentują mężczyzn, do budowy modelu AI, może stworzyć model, który będzie świetnie wykrywał objawy chorób u mężczyzn, ale bagatelizował je u kobiet, wprowadzając tym samym niepożądane uprzedzenie. Niekiedy uprzedzenie może występować w całej populacji jako konsekwencja ukrytych przyczyn społecznych, historycznych lub instytucjonalnych. Przykład takich uprzedzeń znajdujemy w elektronicznych rejestrach lekarzy pierwszego kontaktu – z ich analizy wynika, że częstość kodów diagnostycznych dla nowo rozpoznanych chorób przewlekłych zależy od charakterystyki socjodemograficznej pacjentów, specyfiki przychodni lekarza rodzinnego (np. oceny jakości obsługi w danej placówce) oraz wpływu pandemii COVID‑19.¹³ Gdyby użyć takich danych do budowy modelu AI bez odpowiedniego przygotowania, mogłoby się okazać, że nie identyfikowałby on pewnych chorób, ponieważ obecnie nie mamy pandemii COVID‑19. W takich sytuacjach mówimy o powielaczu uprzedzeń (bias amplifier) – sytuacji, w której model AI nie tylko odzwierciedla istniejące uprzedzenia obecne w danych treningowych, ale również je dodatkowo wzmacnia. Aby ograniczyć uprzedzenia w  modelach AI, konieczne jest stosowanie różnorodnych i reprezentatywnych zbiorów danych, monitorowanie działania modeli oraz stosowanie metod XAI. Świadomość potencjalnych uprzedzeń i odpowiednie mechanizmy kontroli mogą się istotnie przysłużyć sprawiedliwości i wiarygodności systemów opartych na AI.

The European Health Data Space Regulation (EHDS) w kontekście omawianych wcześniej problemów z uprzedzeniami w AI w  medycynie może mieć zasadnicze znaczenie dla poprawy jakości i równości systemów opartych na AI.¹⁴ Celem EHDS będzie umożliwienie bardziej sprawiedliwego i równego dostępu do danych zdrowotnych, co może pomóc rozwiązać problemy związane z ich niereprezentatywnością, która prowadzi do uprzedzeń w analizach opartych na modelach AI. W  kontekście EHDS regulacja ta ma zapewnić, że dane zdrowotne wykorzystywane do rozwoju i oceny algorytmów AI (np. w  medycynie, diagnostyce czy systemach wspomagania decyzji klinicznych) będą bardziej dostępne i zgodne z normami ochrony danych oraz zasadami etycznymi. Umożliwienie szerokiego dostępu do danych zdrowotnych różnych populacji pozwoli natomiast na bardziej reprezentatywne trenowanie modeli AI. Docelowo może to pomóc w wyeliminowaniu uprzedzeń związanych z płcią, rasą czy innymi czynnikami demograficznymi, a tym samym w budowaniu modeli bardziej precyzyjnych w diagnozowaniu i leczeniu osób z różnych grup społecznych.

Zdradź mnie raz, wstyd dla ciebie

Z perspektywy medycznej problem wyjaśnialności można również rozważać w kontekście edukacyjnym.¹⁵ Jeśli model potrafiłby wyjaśnić swoją decyzję, korzystająca z niego osoba mogłaby się uczyć, łącząc decyzję z jej uzasadnieniem. Model GPT‑3, który prawie zdał egzamin lekarski w USA,¹⁶ oceniono także pod względem jakości uzasadnienia swoich decyzji. GPT‑3 zaskoczył swoim „zachowaniem”, ponieważ gdy odpowiadał poprawnie, to zazwyczaj równie poprawnie wyjaśniał swoją odpowiedź. A gdy odpowiedź na pytanie była błędna, jej uzasadnienie analogicznie było raczej wyssane z cyfrowego palca. Wnioski z tej pracy są jednak optymistyczne: w LLM drzemie potencjał wspierania edukacji medycznej, a ostatnie tygodnie pokazują, że ich umiejętności w zakresie wnioskowania i  uzasadniania decyzji się podnoszą – i dlatego coraz częściej nazywa się je „dużymi modelami wnioskowania” (large reasoning models).¹⁷ Istnieje jednak wiele pułapek, które mogą czyhać na lekarzy korzystających z  wyjaśnień generowanych przez LLM, prowadząc do nadmiernego polegania na ich decyzjach.¹⁸ Poprawność wyjaśnienia oraz to, czy jest ono zgodne z poprawnością decyzji podjętej przez model AI, są zasadniczymi czynnikami decydującymi o tym, czy wyjaśnienia są pomocne czy szkodliwe dla użytkowników. Kiedy te elementy są rozbieżne (np. decyzja jest właściwa, ale wyjaśnienie zawiera wiele niepoprawnych informacji), AI zmniejsza wydajność człowieka. Z  kolei nieprawidłowa decyzja idąca w parze z poprawnym wyjaśnieniem może skłaniać użytkowników do zgodzenia się z  (błędną) decyzją AI. Po prostu wyjaśnienie brzmi zbyt przekonująco… Można by powiedzieć, że jeśli AI oszuka po raz pierwszy, to jej wina, ale jeśli zrobi to po raz drugi, winę można przypisać użytkownikowi, bo nie nauczył się na poprzednim błędzie.

Jak i dlaczego

W wielu systemach prawnych opieki zdrowotnej zrozumienie modeli stało się obecnie wymogiem regulacyjnym przed ich wdrożeniem.^19‑22 Brytyjskie Information Commissioner’s Office, czyli organ, który dba o przestrzeganie praw związanych z ochroną danych i zapewnia, że dane osobowe są przetwarzane zgodnie z prawem, definiuje XAI w dwóch kategoriach.²³ Obie odnoszą się do różnych podejść w zarządzaniu i interpretowaniu systemów AI. Pierwsze podejście skupia się na wyjaśnieniach opartych na procesie, czyli na dostarczeniu informacji dotyczących sposobu, w  jaki system AI został zaprojektowany, zbudowany i wdrożony. W tym podejściu należy przedstawić szczegóły dotyczące algorytmów, decyzji podejmowanych na każdym etapie tworzenia systemu oraz zarządzania jego funkcjonowaniem. Chodzi o  zrozumienie, „jak” system działa, jak były podejmowane decyzje dotyczące jego budowy oraz jakie procesy zastosowano, aby zapewnić odpowiednią jakość i bezpieczeństwo. W drugim wyjaśnienia oparte są na wyniku, tzn. koncentrują się na tym, co się wydarzyło na skutek działania modelu AI w danej sytuacji. Chodzi o zaprezentowanie uzasadnienia podjętej przez system decyzji w określonej sytuacji. Takie wyjaśnienia szczegółowo tłumaczą, dlaczego system podjął konkretną decyzję lub wygenerował dany wynik w danym przypadku. W skrócie: wyjaśnienia oparte na procesie odpowiadają na pytanie o to, „jak” system AI działa, a wyjaśnienia oparte na wyniku odpowiadają na pytanie, „dlaczego” AI podjęła określoną decyzję.

Kiedy XAI spotyka pacjenta

Rozwój narzędzi XAI stanowi zatem zasadniczy krok w kierunku bardziej przejrzystych i odpowiedzialnych systemów AI, szczególnie w dziedzinach wysokiego ryzyka, takich jak medycyna, chociaż nie brakuje też krytyków tych rozwiązań.^24,25 Zrozumienie systemów AI jest istotne nie tylko dla zbudowania zaufania wśród pracowników medycznych, którzy mieliby korzystać z narzędzi opierających się na AI, ale także dla pacjentów, którzy będą odbiorcami usług świadczonych z użyciem takich narzędzi. Może też dzięki XAI ci drudzy będą się mogli nauczyć więcej o swoim zdrowiu i decyzjach medycznych podejmowanych przez robolekarzy i robolekarki, a tym samym podejmować bardziej proaktywne role w procesie leczenia, czerpać większą satysfakcję z udzielanych im świadczeń i zwiększyć zaangażowanie w leczenie, a nie tylko słuchać lekarza i sumiennie wykonywać niezrozumiałe zalecenia.