Dokument FUTURE-AI: International Consensus Guideline for Trustworthy and Implementable Artificial Intelligence in Healthcare przygotowany przez międzynarodowe konsorcjum ekspertów redefiniuje sposób, w jaki AI powinna być projektowana i wdrażana w medycynie. Autorzy wychodzą z założenia, że największym problemem nie jest brak algorytmów, lecz brak zaufania do ich działania w realnej praktyce klinicznej.

Wytyczne FUTURE-AI kładą nacisk na tzw. FAIR-traceability – możliwość prześledzenia, na jakich danych model został wytrenowany, jak działa i w jakich populacjach był walidowany. Bez takiej przejrzystości lekarze nie są w stanie ocenić, czy rekomendacja algorytmu jest wiarygodna dla konkretnego pacjenta.

Konsorcjum podkreśla również, że AI musi być częścią infrastruktury klinicznej, a nie dodatkiem technologicznym. Oznacza to integrację z elektroniczną dokumentacją, procedurami jakości, audytami i odpowiedzialnością prawną. Tylko w takim modelu możliwe jest bezpieczne skalowanie AI w onkologii, diagnostyce obrazowej czy medycynie spersonalizowanej.

W praktyce FUTURE-AI przesuwa punkt ciężkości z „czy algorytm działa” na „czy algorytm można bezpiecznie wdrożyć, monitorować i rozliczać”. To podejście może stać się fundamentem przyszłych regulacji AI w ochronie zdrowia.

Źródło: Nature Medicine / npj Digital Medicine – FUTURE-AI Consortium, 2024–2025
Opracowanie redakcyjne: Debaty Zdrowie