Amerykańska Agencja ds. Żywności i Leków (FDA) zapowiedziała zwołanie specjalnego panelu doradczego, który oceni rosnącą kategorię cyfrowych narzędzi do zdrowia psychicznego opartych na sztucznej inteligencji. Chodzi przede wszystkim o aplikacje, chatboty, sensory i platformy terapeutyczne wspierające diagnozę oraz leczenie depresji, zaburzeń lękowych czy bezsenności.

Według informacji Reutersa regulator dostrzega, że dynamiczny wzrost rynku powoduje poważne wyzwania dotyczące bezpieczeństwa, skuteczności i odpowiedzialności klinicznej producentów. Wiele narzędzi AI jest wdrażanych szybciej, niż powstają mechanizmy oceny ryzyka czy normy jakości. Dotyczy to m.in. aplikacji oferujących ocenę nastroju, rozpoznawanie wzorców zachowań, analizę głosu czy wsparcie w terapii poznawczo-behawioralnej (CBT), które są traktowane przez FDA jako potencjalne wyroby medyczne.

Panel ma wypracować kryteria dotyczące:

• oceny metod trenowania modeli AI i ich przejrzystości,

• wymogów dowodów klinicznych dla cyfrowych „terapeutów”,

• zarządzania ryzykiem błędnych rekomendacji,

• zasad nadzoru postmarketowego i raportowania incydentów,

• odpowiedzialności producentów za aktualizacje modeli w trybie „continuous learning”.

FDA zauważa, że narzędzia psychoterapeutyczne oparte na AI stają się coraz bardziej popularne wśród pacjentów, ale jednocześnie stwarzają ryzyko nieprawidłowego rozpoznania, nieadekwatnych rekomendacji lub błędów wynikających z biasu danych treningowych. Regulator chce zapobiec sytuacji, w której rynek będzie rozwijał się szybciej niż zdolność nadzorowania bezpieczeństwa.

Konsekwencje dla rynku i producentów:
Decyzja FDA może wyznaczyć globalny standard regulacji dla cyfrowych narzędzi zdrowia psychicznego. Firmy healthtech będą musiały przygotować bardziej kompleksowe badania kliniczne, dokumentację algorytmów i plany monitorowania działania AI po wprowadzeniu na rynek.

Zalecenia dla odbiorców:

• śledzić stanowisko FDA i potencjalne zmiany klasyfikacji wyrobów AI w psychiatrii,

• analizować wpływ regulacji na wdrożenia cyfrowych narzędzi w placówkach,

• przygotować strategie compliance dla AI w usługach psychologicznych lub telemedycznych.

Źródła: Reuters; FDA Public Advisory Calendar; PAP – Nauka i Zdrowie.

Opracowanie redakcyjne: Debaty Zdrowie