Amerykańska FDA oraz Europejska Agencja Leków przedstawiły wspólne ramy tzw. „good AI practice” w procesie rozwoju leków, sygnalizując nowy etap podejścia regulatorów do sztucznej inteligencji. Dokument nie wprowadza bezpośrednio nowych obowiązków prawnych, lecz wyznacza oczekiwany standard postępowania. Akcent położono na bezpieczeństwo pacjenta, jakość danych oraz możliwość nadzoru nad algorytmami. To istotny sygnał dla branży, że AI przestaje być traktowana jako eksperyment technologiczny. Wchodzi w obszar pełnoprawnej odpowiedzialności regulacyjnej.

Regulatorzy podkreślają znaczenie jakości i pochodzenia danych wykorzystywanych do trenowania modeli. Dane niskiej jakości, stronnicze lub nieudokumentowane mogą prowadzić do błędnych wniosków na etapie discovery lub badań klinicznych. W konsekwencji rośnie oczekiwanie, że firmy będą w stanie wykazać pełną ścieżkę pochodzenia danych. Dotyczy to zarówno danych przedklinicznych, jak i klinicznych. Transparentność staje się warunkiem zaufania do rozwiązań opartych na AI.

Istotnym elementem „good AI practice” jest nadzór nad algorytmami w całym cyklu życia produktu. FDA i EMA zwracają uwagę, że modele AI mogą ulegać zmianom w czasie, np. w wyniku aktualizacji lub uczenia się na nowych danych. To rodzi pytania o stabilność wyników i powtarzalność analiz. Regulatorzy oczekują mechanizmów monitorowania i kontroli tzw. driftu modeli. Odpowiedzialność za te procesy spoczywa na podmiotach rozwijających lek.

Dla firm farmaceutycznych oznacza to konieczność wdrożenia formalnych struktur governance AI. AI przestaje być domeną wyłącznie zespołów data science, a staje się elementem systemu jakości. Walidacja modeli, dokumentacja założeń i audyt danych muszą być przygotowane tak, aby mogły trafić do dossier regulacyjnego. To zmienia sposób organizacji projektów badawczo-rozwojowych. Kompetencje regulacyjne i technologiczne muszą być ściśle zintegrowane.

Wspólne stanowisko FDA i EMA ma również wymiar globalny. Ujednolicenie oczekiwań największych regulatorów zmniejsza fragmentację rynku i ryzyko sprzecznych interpretacji. Jednocześnie podnosi poprzeczkę dla mniejszych firm i startupów, które dotychczas mogły działać w mniej sformalizowany sposób. Wejście na rynek z rozwiązaniami AI będzie wymagało większych inwestycji w jakość i zgodność. To może zmienić strukturę konkurencji w sektorze.

W szerszym kontekście jest to sygnał, że AI w farmacji dojrzewa regulacyjnie. Przewaga konkurencyjna nie będzie już wynikać wyłącznie z innowacyjności algorytmu. Coraz większe znaczenie ma zdolność do jego bezpiecznego, kontrolowalnego i transparentnego wykorzystania. Dla decydentów w firmach oznacza to przesunięcie ciężaru z „czy używać AI” na „jak ją bezpiecznie wdrożyć”. Regulacyjna klarowność może w dłuższej perspektywie sprzyjać stabilnemu rozwojowi technologii.

Źródła: Reuters
Opracowanie redakcyjne: Debaty Zdrowie