Rosnąca liczba projektów wykorzystujących sztuczną inteligencję w diagnostyce, logistyce i planowaniu terapii sprawia, że szpitale w całej UE oraz w USA rozpoczynają wewnętrzne audyty „AI readiness”, czyli gotowości infrastrukturalnej i proceduralnej do bezpiecznego wdrażania rozwiązań opartych na algorytmach predykcyjnych.

W centrum zainteresowania znajduje się zgodność z przepisami AI Act (UE) oraz z przewodnikami regulacyjnymi Food and Drug Administration (FDA), które wymagają m.in.: transparentnych zasad działania algorytmu, świadomej zgody pacjenta na wykorzystanie danych oraz kontroli nad ryzykiem błędów predykcyjnych i biasu.

Przeglądy obejmują również ocenę zgodności RODO z wtórnym wykorzystaniem danych medycznych (szczególnie w projektach typu retrospective AI), procedury backupu danych wejściowych, sposób archiwizacji wyników działania algorytmu oraz dostępność dokumentacji dla potrzeb kontroli klinicznych lub regulatorów.

Pierwsze raporty z pilotażowych audytów (m.in. w Niemczech, Danii i we Francji) wskazują, że największymi barierami są braki w zespole IT i bioinformatycznym oraz niejednolita jakość danych zgromadzonych w systemach HIS i RIS.

Zalecenie operacyjne: Dla szpitali i dużych podmiotów leczniczych rekomendowane jest powołanie interdyscyplinarnego zespołu ds. AI compliance, który we współpracy z działem prawnym, IT i klinicznym opracuje wewnętrzną strategię wdrażania narzędzi AI. Konieczne może być również przeszkolenie personelu w zakresie oceny działania algorytmów i reakcji na nieprawidłowości predykcyjne.

Źródła: FDA · European Commission · MedTech Dive · HealthTech EU
Opracowanie redakcyjne: Debaty Zdrowie