Som et redskab til brug i klinikken skal AI i dag leve op til krav om klinisk evidens før implementering, ligesom det er tilfældet for andre produkter og løsninger til brug for diagnostik eller behandling.

Klinisk evidens genereres ved demonstration af sikkerhed og effekt i kontrollerede kliniske forsøg ved sammenligning med en etableret standard. 

Paradoksalt nok vil det måske i fremtiden være muligt at benytte AI og maskinlæring til at syntetisere videnskabelig og klinisk evidens, som i dag frembringes via traditionelle randomiserede kontrolforsøg. 

Der er dog fortsat mange spørgsmål omkring udvikling, begrænsninger og validitet ved AI og maskinlæring til fremtidige sundhedsløsninger og produkter. 

AI som co-pilot i sundhedsvæsenet

AI har allerede vundet indpas i sundhedsvæsenet, bl.a. indenfor billeddiagnostik som ‘co-pilot’-support til traditionel vurdering af screeningsundersøgelser, hvor fordelene ved AI er en mere effektiv brug af menneskelige ressourcer. 

Eksempelvis har AI-supporteret mammografi i randomiserede kontrolforsøg vist samme detektionsgrad af kræft, som ved mammografi uden brug af AI-assistance, men med blot halvt så stort forbrug af ‘manuel’ skærmaflæsningstid. 

Andre oplagte og potentielle fordele ved AI omfatter hurtigere udredningstid, lavere fejlrater, højere samt ensartet behandlingskvalitet og mere lighed i sundhed. 

Der er dog også områder, hvor mulighederne ved AI er mere spekulative, og hvor udfordringer og risici forbundet med dets udvikling, implementering og brug kan være svære at gennemskue. 

Svar på veldefinerede spørgsmål

AI synes især at være anvendeligt til at finde løsninger på veldefinerede spørgsmål og opgaver baseret på homogene datasæt. 

AI kan identificere og notificere eller advare ved afvigelser fra normen, men det kræver, at normen er kendt og inkorporeret i algoritmen. 

Med maskinlæring, hvor modellen lærer ud fra eksempler frem for at blive programmeret med regler, er det også muligt at finde mønstre og sammenhænge i historiske data. Det kan give indsigt omkring kausalitet, som i dag ikke er opnåelig med traditionelle dataanalysemetoder. 

Men der kan opstå diskrepans mellem historiske trænings-datasæt og prospektive kliniske data, og det kan være vanskeligt at fodre AI og maskinlæringsmodellerne med repræsentative real life-værdier og eksempler, så resultaterne afspejler relevante problemstillinger.

Udfordringer for AI

Et af problemerne ved AI systemer er dataset shifts, hvor der er mismatch mellem de data, hvorudfra en AI-model blev udviklet, og de data, hvorpå AI-modellen anvendes – eksempelvis på grund af ændringer i populationen, epidemiologiske forhold, underliggende omstændigheder og/eller patientadfærd. 

Det kan medføre, at AI-modellen performer dårligt i praksis på trods af gode resultater i test.

En anden udfordring er automation bias, hvor høje forventninger og for stor tiltro til resultater fra AI- og maskinlæringsmodeller overskygger modstridende ‘manuelle’ signaler og informationer, hvilket kan give anledning til forkerte konklusioner og beslutninger. 

Dette kan være specielt udtalt, hvis modellerne ikke er designet til at varsle om mulige begrænsninger eller usikkerheder ved det afgivne output, og/eller hvis de tilgrundliggende algoritmer er baseret på uigennemskuelige datagrundlag.

Tilsvarende vil mangel på information omkring de underliggende forhold og forudsætninger ved modellernes udvikling og validering kunne skabe tvivl og usikkerhed om generaliserbarheden og anvendelsesmulighederne. 

Jo mere komplicerede modellerne bliver, des sværere bliver de også at forstå, og de vil for brugerne fremstå som en ‘black box’. Øget transparens bør derfor være en forudsætning for, at AI og maskinlæring bliver implementeret og forankret i klinisk forskning.       

Erstatning for randomiserede forsøg

På trods af de forskellige udfordringer og begrænsninger kan man forestille sig en fremtid, hvor AI-genererede data kan anvendes som dokumentation for klinisk sikkerhed og effekt, og dermed erstatte de randomiserede, kontrollerede kliniske forsøg, som vi kender dem i dag. 

Det ville medføre en massiv acceleration i udviklingen af nye sundhedsløsninger og produkter. Men her er der dog nok et stykke vej endnu. 

Et andet og mere realistisk scenarie er anvendelse af AI-supporteret klinisk forskning og lægemiddeludvikling, hvor AI og maskinlæring ikke afskaffer behovet for prospektive kliniske studier, men derimod bliver et værktøj til hurtigere og billigere udvikling af mere effektive og sikre løsninger og produkter. 

Det kunne være som hjælp til præcis og omfattende forudsigelse af ønskede og uønskede effekter, individuel sygdomsudvikling, risikoprofil og prognose, samt til identificering af hvilke patienter der vil have bedst gavn af nye behandlingstiltag og allokering til det mest optimale tilbud.

Maksimal udnyttelse af AI i forbindelse med klinisk forskning vil formentlig kræve modificering af de typisk anvendte statistiske metoder, foruden tilpasning af de regulatoriske samt juridiske rammer og strukturer. 

Uanset hvilken skæbne, der rammer de klassiske randomiserede kliniske studier, er der nok ingen tvivl om, at AI og maskinlæring kommer til at spille en væsentlig rolle fremover i udviklingen af nye og innovative sundhedsløsninger og lægemidler. 

Og jo bedre forståelse af udfordringer og begrænsninger ved teknologien og dens anvendelse, des bedre kan vi udnytte potentialet og undgå negative konsekvenser som dataset shifts og automation bias.