Badanie opublikowane w Nature Medicine i szeroko omawiane przez Reuters pokazuje, że wykorzystanie sztucznej inteligencji w realnych warunkach nie prowadzi do poprawy decyzji pacjentów dotyczących interpretacji objawów, w porównaniu z tradycyjnymi źródłami informacji. Autorzy analizowali zachowania użytkowników korzystających z narzędzi opartych na AI w sytuacjach symulujących rzeczywiste problemy zdrowotne. Wyniki podważają powszechne przekonanie, że dostęp do zaawansowanych modeli językowych automatycznie zwiększa trafność decyzji. Co istotne, różnice na korzyść AI nie były widoczne nawet przy bardziej złożonych scenariuszach. To ważny sygnał ostrzegawczy dla systemów ochrony zdrowia. Szczególnie tych, które planują szerokie wdrożenia narzędzi cyfrowych po stronie pacjenta.

Autorzy badania zwracają uwagę, że AI nie tylko nie poprawia decyzji, ale w części przypadków może wzmacniać niepewność użytkowników. Pacjenci częściej deklarowali brak pewności co do dalszych kroków, mimo otrzymania rozbudowanych odpowiedzi generowanych przez modele. Problemem okazała się nadmierna ilość informacji oraz brak jasnych rekomendacji dotyczących pilności interwencji. W praktyce prowadziło to do opóźnień w zgłaszaniu się po pomoc lub do nieadekwatnych reakcji. To zjawisko ma szczególne znaczenie w kontekście chorób ostrych i stanów nagłych. W takich sytuacjach błąd decyzyjny może mieć poważne konsekwencje kliniczne.

Z punktu widzenia organizacyjnego badanie prowadzi do jednoznacznych wniosków: jeśli narzędzia AI są dopuszczane do ścieżek pacjenta, muszą być wyposażone w twarde mechanizmy bezpieczeństwa. Symptom-checkery i modele językowe nie mogą funkcjonować jako autonomiczne źródło rekomendacji. Konieczne są jasno zdefiniowane reguły triage, listy objawów alarmowych oraz automatyczne mechanizmy eskalacji do personelu medycznego. Bez tych zabezpieczeń AI może tworzyć fałszywe poczucie bezpieczeństwa. To szczególnie niebezpieczne w populacjach o ograniczonych kompetencjach zdrowotnych. System musi aktywnie kierować użytkownika do właściwego poziomu opieki.

Badanie podkreśla również znaczenie jakości i spójności treści udostępnianych przez systemy oparte na AI. Brak aktualnych wytycznych, niespójne komunikaty lub nadmiernie ogólne odpowiedzi obniżają wartość narzędzia. Autorzy wskazują, że bez rygorystycznego nadzoru redakcyjnego i klinicznego nawet zaawansowane modele mogą generować treści o ograniczonej użyteczności. W praktyce oznacza to konieczność stałego audytu odpowiedzi AI. Wdrożenia wymagają zespołów interdyscyplinarnych, łączących kompetencje kliniczne, technologiczne i prawne. To znacząco podnosi koszt i złożoność projektów.

Z perspektywy compliance i odpowiedzialności prawnej wyniki badania mają istotne implikacje. Organizacje wdrażające AI w kontaktach z pacjentami muszą jasno określić zakres odpowiedzialności i rolę narzędzia w procesie decyzyjnym. Brak takich ram zwiększa ryzyko roszczeń w przypadku opóźnionej diagnozy lub niewłaściwego postępowania. AI nie może być traktowana jako substytut konsultacji medycznej, a jedynie jako narzędzie wspierające. Ten przekaz powinien być jednoznacznie komunikowany użytkownikom. Transparentność staje się kluczowym elementem bezpieczeństwa.

Operacyjnie badanie wzmacnia argument za ostrożnym i etapowym wdrażaniem AI po stronie pacjenta, zamiast szybkiej skalowalności. Narzędzia symptom-checker powinny być testowane w warunkach kontrolowanych i z jasno zdefiniowanymi scenariuszami użycia. Kluczowe jest monitorowanie realnych zachowań użytkowników, a nie tylko deklarowanych korzyści. Wyniki Nature Medicine pokazują, że technologia sama w sobie nie rozwiązuje problemów decyzyjnych pacjentów. Bez odpowiednich ram może je nawet pogłębiać. To istotna lekcja dla decydentów, menedżerów i twórców rozwiązań medtech.

Źródło: Reuters / Nature Medicine

Opracowanie redakcyjne: Debaty Zdrowie