Porady medyczne AI brzmią fachowo. Mogą być groźną pułapką

Coś boli, więc sięgasz po AI

Najpierw zwykle pojawia się niepokój. Dziwny ból, wynik badania, którego nie umiemy odczytać, suplement polecony przez znajomego, dieta obiecująca w internecie niemal wszystko. Do lekarza nie zawsze da się dostać od razu. Chatbot odpowiada natychmiast.

Jego odpowiedź jest długa, spokojna, logiczna. Pełna fachowych słów. Brzmi tak, jakby ktoś po drugiej stronie naprawdę wiedział, co robi. W tym tkwi pułapka. Nowe badanie opublikowane w BMJ Open pokazuje, że w sprawach zdrowia to może być jedna z najniebezpieczniejszych cech sztucznej inteligencji.

Porady medyczne AI: błąd ubrany w biały fartuch

Nie chodzi tylko o to, że chatbot może się pomylić. Internet zawsze był pełen złych porad, cudownych terapii i fałszywych obietnic. Nowość polega na czymś innym: porady medyczne AI potrafią nadać błędowi formę kompetencji.

– Namówiony przez bliskich zrobiłem sobie badania na nietolerancję pokarmową. Diagram wyglądał niepokojąco, więc zeskanowałem go i wrzuciłem do Chat GPT. AI przekonywała mnie, że jestem bardzo chory, powinienem przejść na rygorystyczną dietę, prawie wszystko mi szkodzi.

– śmieje się Zbigniew, 53-letni dziennikarz.

– W rzeczywistości ten wykres pokazywał reakcje organizmu na możliwe alergeny, a nie kompletną diagnozę mojego stanu zdrowia.

To tylko anegdota. Ale takie sytuacje zdarzają się coraz częściej. Statystyki wskazują, że wielu z nas częściej niż raz w tygodniu korzysta z podpowiedzi AI przy rozwiązywaniu codziennych problemów.

Co druga odpowiedź brzmiała lepiej, niż była warta

Naukowcy sprawdzili skuteczność sztucznej inteligencji. Wykorzystali popularne modele językowe: Gemini, Grok, DeepSeek, ChatGPT oraz Meta AI. Zadawali im pytania z obszarów szczególnie podatnych na dezinformację: nowotworów, szczepień, terapii komórkami macierzystymi, diety i suplementacji oraz wydolności sportowej. Każde pytanie brzmiało tak, jak mógł napisać je zwykły użytkownik szukający porady zdrowotnej. Badacze chcieli sprawdzić nie tylko to, czy chatbot odpowie, ale także czy odpowiedź będzie rzetelna, czy fałszywa, ale wyglądająca na fachową.

I co się okazało? Skuteczność sztucznej inteligencji była na niskim, wręcz alarmującym poziomie. Prawie połowa odpowiedzi AI na tematy zdrowotne i medyczne sprawiała wrażenie fachowej, przekonującej, uporządkowanej, napisanej językiem, który dla laika mógł wyglądać na fachową wiedzę medyczną.

Tyle że w rzeczywistości, jak ocenili eksperci – wygenerowana przez AI odpowiedź mogła prowadzić użytkownika na manowce: ku fałszywemu poczuciu bezpieczeństwa albo metodzie leczenia, której absolutnie nie powinno się podejmować bez lekarza. To z kolei sprzyjało dezinformacji. W badaniu 30 procent odpowiedzi uznano za częściowo problematyczne, a 19,6 procent za wysoce problematyczne. To wnioski ekspertów między innymi z Wake Forest University School of Medicine oraz University of Ottawa.

Chatbot rzadko mówi: nie wiem

Ogólna jakość odpowiedzi nie różniła się znacząco między modelami. Mimo to Grok częściej generował odpowiedzi, które brzmiały bardzo przekonująco, choć ich wartość merytoryczna była słaba. Z badania wynika, że chatboty najlepiej radziły sobie przy pytaniach o nowotwory i szczepienia. Najwięcej problemów było z tematami, które królują w internecie: terapiach komórkami macierzystymi, wydolności sportowej oraz żywieniu.

To nie jedyny problem, na który eksperci zwrócili uwagę. Wygenerowane odpowiedzi były cały czas formułowane z dużą stanowczością i pewnością siebie. Tylko dwa razy model językowy odmówił udzielenia odpowiedzi spośród wszystkich 250 pytań. Problemem był również język. Modele potrafiły używać specjalistycznych sformułowań, które dla osoby bez przygotowania medycznego mogą brzmieć jak dowód kompetencji i prawdziwej porady medycznej.

Źródła wyglądały dobrze. Tylko że nie zawsze istniały

Kolejna pułapka kryła się w źródłach. Lista referencji powinna budować zaufanie. Nazwiska autorów, tytuły prac, czasopisma, daty. Problem w tym, że żaden z badanych chatbotów nie przygotował w pełni poprawnej listy źródeł. Pojawiały się cytowania niepełne, błędne albo sfabrykowane, co znacznie obniża skuteczność i wprowadza dezinformację sztucznej inteligencji.

Poddane audytowi chatboty osiągnęły słabe wyniki przy odpowiadaniu na pytania z obszarów zdrowia i medycyny podatnych na dezinformację. Dalsze wdrażanie tych systemów bez edukacji społeczeństwa i odpowiedniego nadzoru grozi nasileniem dezinformacji.

– czytamy w badaniu.

Polacy już pytają AI o codzienne sprawy

W Polsce ta sprawa przestaje być abstrakcją. Z raportu Future Mind wynika, że 40 proc. Polaków regularnie korzysta z modeli językowych w życiu prywatnym, a kontakt z takimi narzędziami miała już zdecydowana większość badanych. AI w Polsce nie jest już zabawką dla entuzjastów technologii. Jest wyszukiwarką, sekretarką, korepetytorem, rozmówcą, a coraz częściej także pierwszym miejscem, do którego trafia pytanie o zdrowie.

Korzystamy z AI w pracy i w domu. Służy do rozrywki, prostych zadań, szukania pomysłów i coraz częściej także do porad. Jest szybka, dostępna, konkretna i potrafi stworzyć wrażenie fachowości. To właśnie ten zestaw cech sprawia, że w sprawach zdrowia może wydawać się bezpieczniejsza, niż naprawdę jest. Dlatego następnym razem, gdy pojawi się pokusa, by wpisać wynik badania, objaw albo medyczny niepokój do chatbota, warto pamiętać o jednym: porada AI absolutnie nie może zastąpić odpowiedzialnej porady lekarskiej.

Warto przeczytać: Porady zdrowotne AI są niebezpieczne. Z 3 powodów