Wraz z dynamicznym rozwojem technologii medycznych sztuczna inteligencja zaczyna odgrywać coraz większą rolę w chirurgii i systemach wspomagania decyzji klinicznych. Systemy oparte na algorytmach AI są wykorzystywane między innymi w nawigacji chirurgicznej, analizie obrazów medycznych oraz wspomaganiu planowania zabiegów. Dzięki nim lekarze mogą szybciej analizować dane i podejmować decyzje terapeutyczne. Jednak najnowsze analizy wskazują, że wdrażanie tych technologii nie jest pozbawione ryzyka. W niektórych przypadkach pojawiają się raporty o błędach technicznych oraz nieprawidłowościach w działaniu systemów wspieranych przez AI. Zjawisko to zaczyna budzić coraz większe zainteresowanie regulatorów oraz środowiska medycznego.

Analiza materiałów dotyczących zdarzeń medycznych wskazuje, że liczba zgłoszeń związanych z problemami technologicznymi w systemach chirurgicznych wspomaganych algorytmami AI stopniowo rośnie. Zdarzenia te obejmują zarówno błędy w interpretacji danych, jak i nieprawidłowe działanie systemów nawigacyjnych wykorzystywanych podczas operacji. W niektórych przypadkach mogło to prowadzić do powikłań u pacjentów lub konieczności zmiany planu zabiegu. Choć takie sytuacje wciąż stanowią niewielki odsetek wszystkich procedur chirurgicznych, zwracają uwagę na potrzebę dokładnego monitorowania bezpieczeństwa nowych technologii medycznych. Rozwój technologii medycznych często wyprzedza tempo tworzenia szczegółowych regulacji prawnych. Dlatego coraz częściej pojawia się pytanie o zakres odpowiedzialności za błędy systemów wspieranych przez sztuczną inteligencję.

Jednym z najważniejszych problemów wskazywanych przez ekspertów jest ograniczony zakres nadzoru regulacyjnego nad częścią systemów wykorzystujących AI w medycynie. W wielu przypadkach urządzenia te uzyskują dopuszczenie do stosowania na podstawie badań przeprowadzonych w ograniczonych warunkach klinicznych. Po wprowadzeniu na rynek ich działanie może być wykorzystywane w znacznie bardziej zróżnicowanych sytuacjach klinicznych. Z tego powodu rośnie znaczenie systemów monitorowania bezpieczeństwa po wprowadzeniu produktu na rynek. Tak zwany nadzór post-marketingowy staje się jednym z kluczowych elementów oceny technologii medycznych. Pozwala on identyfikować potencjalne problemy, które nie zostały wykryte na etapie badań klinicznych.

Eksperci podkreślają, że rozwój technologii opartych na sztucznej inteligencji wymaga nowych standardów walidacji klinicznej. Algorytmy medyczne powinny być testowane w różnych warunkach klinicznych oraz w różnych populacjach pacjentów. Tylko w ten sposób można ocenić ich rzeczywistą skuteczność i bezpieczeństwo. W wielu krajach regulatorzy pracują nad nowymi modelami oceny technologii AI w medycynie. Celem jest stworzenie ram regulacyjnych, które pozwolą na rozwój innowacji przy jednoczesnym zachowaniu wysokich standardów bezpieczeństwa pacjentów. To wyzwanie dotyczy zarówno producentów technologii, jak i instytucji nadzorujących rynek wyrobów medycznych.

Wprowadzenie sztucznej inteligencji do chirurgii jest jednocześnie jednym z najbardziej obiecujących kierunków rozwoju współczesnej medycyny. Algorytmy mogą wspierać lekarzy w analizie obrazów diagnostycznych, identyfikacji struktur anatomicznych czy ocenie ryzyka powikłań. W przyszłości technologie te mogą także pomóc w planowaniu zabiegów chirurgicznych oraz analizie danych z poprzednich operacji. Potencjalne korzyści obejmują większą precyzję zabiegów oraz skrócenie czasu operacji. Jednocześnie eksperci podkreślają, że sztuczna inteligencja powinna pełnić rolę narzędzia wspierającego, a nie zastępującego decyzje lekarza.

Debata na temat bezpieczeństwa AI w medycynie pokazuje, że innowacje technologiczne wymagają równoczesnego rozwoju mechanizmów nadzoru i odpowiedzialności. Systemy medyczne stają się coraz bardziej złożone i integrują wiele różnych technologii cyfrowych. Dlatego konieczne jest stworzenie jasnych zasad dotyczących ich stosowania w praktyce klinicznej. W najbliższych latach można spodziewać się zwiększonej liczby badań oraz nowych regulacji dotyczących sztucznej inteligencji w ochronie zdrowia. Bezpieczeństwo pacjentów pozostanie najważniejszym kryterium oceny nowych technologii medycznych.

Źródła: Reuters
Opracowanie redakcyjne: Debata Zdrowie