Sztuczna inteligencja jest coraz powszechniejsza w naszym życiu. Pytania zadawane różnym modelom AI, także z zakresu medycyny, mogą przynieść konkretne i pomocne rozwiązania. Ale jednak trzeba podchodzić ze sporą rezerwą do odpowiedzi udzielanych tą drogą. Dowodem chociażby najnowsze badanie przeprowadzone przez japońskich i amerykańskich naukowców.
Duże modele językowe (ang. Large Language Models, LLM), czyli zaawansowane algorytmy sztucznej inteligencji, które potrafią rozumieć, analizować i generować ludzki język, bazujące na ogromnych zbiorach danych, są coraz częściej wykorzystywane do dostarczania użytkownikom ważnych informacji z zakresu ochrony zdrowia. Jednak jak się okazuje, te narzędzia obarczone są poważną wadą: są bardzo stronnicze w podpowiadaniu na temat doboru terapii, a stosowanie ich rekomendacji w praktyce mogłoby prowadzić do wzrostu kosztów leczenia.
AI może podpowiedzieć źle
Zespół pod kierownictwem prof. Daiju Uedy, specjalisty radiologii i wykorzystania sztucznej inteligencji w medycynie z Wydziału Medycyny Uniwersytetu Metropolitalnego w Osace (Osaka Metropolitan University), we współpracy z MD Anderson Cancer Center przy Uniwersytecie Teksańskim, poprosił pięć modeli LLM (GPT-5.4, Claude Sonnet 4.6, Gemini 3.1 Flash, Llama 4 oraz MedGemma) o wskazanie maksymalnie trzech leków zatwierdzonych przez amerykańską Agencję Żywności i Leków (FDA) dla kilku symulowanych scenariuszy klinicznych.
Mimo że dla każdej analizowanej substancji czynnej dostępnych było średnio 5,5 produktu zatwierdzonego przez FDA, to jednak rekomendacje AI mówiące o najlepszej opcji w 97,5 proc. przypadków dotyczyły tylko jednego konkretnego preparatu.
„Rekomendacje dotyczyły głównie leków markowych, produktów o dużej widoczności w wynikach wyszukiwania Google oraz preparatów posiadających własne strony w serwisie Wikipedia” – powiedział prof. Ueda.
Modele LLM rzadziej rekomendowały leki, które uzyskały zatwierdzenie FDA w późniejszym czasie, a także te, które są częściej przepisywane przez lekarzy w praktyce klinicznej. Badanie wykazało również przypadki zaleceń niezgodnych z oficjalnymi informacjami regulacyjnymi – w tym rekomendowanie produktów, które zostały wycofane z obrotu.
Wskazania AI mogą być bardzo kosztowne
W dalszym etapie badań naukowcy, wykorzystując dane ze Stanów Zjednoczonych, oszacowali potencjalne skutki finansowe dla pacjentów, zakładając scenariusz, w którym lekarze postępowaliby zgodnie z rekomendacjami generowanymi przez modele LLM.
Gdy modele otrzymały polecenie priorytetowego traktowania tańszych odpowiedników lub leków generycznych, zmieniały swoje rekomendacje, jednak nadal koncentrowały się na bardzo wąskiej grupie produktów.
Ustaliliśmy, że roczne koszty zakupu leków wzrosłyby o 55,6 mln dolarów. Oznacza to wzrost wydatków na recepty o 1019 proc.– podkreślił prof. Ueda.
„Nasze wyniki podkreślają konieczność weryfikacji systemów sztucznej inteligencji w medycynie pod kątem stronniczości w doborze produktów oraz sposobu, w jaki przetwarzają one informacje o kosztach i regulacjach” – mówi specjalista.
„Łączenie systemów AI z wiarygodnymi źródłami informacji o lekach, ale jednak poparta nadzorem człowieka może pomóc w podejmowaniu bardziej właściwych decyzji terapeutycznych” – dodaje.
Czytaj też:
Sztuczna inteligencja już działa w medycynie. Prof. Wojdacz: Za 10 lat to będzie rewolucja Czytaj też:
Sztuczna inteligencja wspiera medycynę. A kto ponosi odpowiedzialność?