Et klinisk beslutningsstøtteværktøj (et softwaresystem, der analyserer patientdata for at generere kliniske anbefalinger) kan bestå enhver softwarekvalitetstest, som en leverandør gennemfører, og stadig være usikkert for de patienter, en praktiserende læge møder en mandag morgen. Logikken kan udføres fejlfrit. Grænsefladen kan være responsiv og intuitiv. Datapipelinen kan være fuldt operationel. Men hvis den underliggende model er trænet på indlagte hospitalspatienter, valideret i et ikke-europæisk sundhedssystem eller aldrig testet mod de udifferentierede præsentationer, der kendetegner almen praksis, kan værktøjet give anbefalinger, der er systematisk vildledende i den kontekst, hvor det faktisk anvendes. For sundhedsbeslutningstagere, der evaluerer disse værktøjer – uanset om det er på praksis-, netværks- eller kommissionsniveau – er forståelse af, hvordan stringent validering ser ud, og hvad den ikke gør, nu et centralt ledelsesansvar.

Hvorfor validering ikke er det samme som softwaretest

Softwaretest bekræfter, at et system opfører sig, som dets udviklere har til hensigt. Klinisk validering stiller et andet spørgsmål: Giver systemets tilsigtede adfærd sikre og effektive resultater for rigtige patienter i et reelt klinisk miljø?

Forskellen er vigtig, fordi et værktøj kan være teknisk korrekt og klinisk skadeligt på samme tid. En algoritme, der nøjagtigt beregner en risikoscore baseret på et datasæt med nordamerikanske hospitalspatienter, kan systematisk undervurdere eller overvurdere risikoen i en europæisk primærsektorpopulation med andre demografiske forhold, komorbiditetsmønstre og sundhedssøgende adfærd. Et beslutningsstøtteværktøj til receptudskrivning, der er valideret i en specialiseret setting, kan generere advarsler, der er kalibreret til specialiststyrede patienter, hvilket kan føre til advarselstræthed eller oversete signaler, når det implementeres i almen praksis.

En systematisk gennemgang af designtilgange til kliniske beslutningsstøttesystemer publiceret i Journal of Medical Internet Research identificerer klinikertillid og forklarlighed som centrale udfordringer for implementering. Dette er problemer, der skyldes valideringsfejl, ikke softwarefejl. Når et værktøjs anbefalinger ikke matcher den kliniske virkelighed, en praktiserende læge oplever, svækkes tilliden, uanset om softwaren fungerer teknisk korrekt.

Klinisk validering kræver dokumentation for, at et værktøj producerer nøjagtige, sikre og klinisk relevante resultater for den specifikke population og setting, hvor det skal bruges – ikke blot dokumentation for, at det producerer output i det hele taget.

Det regulatoriske landskab: hvor medicinsk udstyrsforordning trækker grænsen

Ikke alle kliniske beslutningsstøtteværktøjer er medicinsk udstyr under EU's medicinsk udstyrsforordning (MDR) 2017/745, men et betydeligt og voksende antal er det. Den afgørende regulatoriske sondring går mellem værktøjer, der leverer generel klinisk information, og værktøjer, der styrer eller direkte påvirker en klinisk beslutning for en individuel patient.

Under medicinsk udstyrsforordningen (MDR) vil et softwareværktøj, der analyserer patientspecifikke data for at generere anbefalinger til diagnose, behandling, risikostratificering eller receptudskrivning, sandsynligvis opfylde definitionen af medicinsk udstyr. Når det først er klassificeret som sådan, skal det have CE-mærkning, hvilket kræver, at producenten dokumenterer klinisk sikkerhed og ydeevne, før værktøjet markedsføres i Europa.

Fra 2026 står producenter af AI-baseret medicinsk udstyr over for dobbelt overholdelse af både MDR og EU's AI-forordning. AI-forordningen klassificerer automatisk AI-baserede kliniske beslutningsstøttesystemer som højrisiko, hvilket udløser obligatorisk overensstemmelsesvurdering, biasovervågning, gennemsigtighedskrav og krav om menneskeligt tilsyn, der rækker ud over, hvad MDR alene krævede. MyHealth@EU-overholdelsesrammen tilføjer et yderligere lag for værktøjer, der opererer på tværs af EU-lande, og kræver AI-specifikke metadata og dokumentation for dataoprindelse, som skal indlejres i kliniske dataudvekslingsmeddelelser.

CE-mærkning er ikke en garanti for egnethed i en bestemt klinisk kontekst. Det er en erklæring fra producenten om, at udstyret opfylder gældende regulatoriske krav. CE-mærkning er en nødvendig forudsætning for lovlig implementering i Europa, men ikke en tilstrækkelig betingelse for klinisk anvendelse i en given setting.

En fagfællebedømt analyse publiceret i npj Health Systems identificerer betydelige huller i de nuværende EU MDR-standarder for datadrevne og adaptive AI-systemer. Disse huller betyder, at nogle værktøjer kan opnå regulatorisk overholdelse, selvom de stadig mangler den stringente kliniske validering, som implementering i primærsektoren kræver.

Hvad klinisk validering faktisk indebærer

Klinisk validering er en struktureret proces, der skal demonstrere, at et værktøj fungerer som tilsigtet i en defineret patientpopulation. For kliniske beslutningsstøtteværktøjer omfatter de centrale elementer:

• Dokumentation for klinisk nøjagtighed: Dokumenteret ydeevne mod en referencestandard, for eksempel sammenligning af risikoscorer med uafhængigt validerede algoritmer eller vurdering af anbefalinger mod ekspertgennemgang. Et tidligt eksempel på denne metode ses i en mixed-methods evaluering af et kardiovaskulært klinisk beslutningsstøttesystem i primærsektoren, hvor værktøjets risikovurderingsalgoritme blev sammenlignet med en uafhængigt programmeret version, der opnåede en intraklasse-korrelationskoefficient på 0,999, og ledelsesrådgivning blev vurderet mod lægeanbefalinger fra manuel retningslinjegennemgang.

• Repræsentative populationsdata: Dokumentation for, at valideringsdatasættet afspejler de demografiske, kliniske og socioøkonomiske karakteristika for den population, hvor værktøjet skal anvendes. Validering på et snævert eller ikke-repræsentativt datasæt begrænser generaliserbarheden af ydeevnepåstande.

• Uafhængig gennemgang: Intern validering fra producenten er nødvendig, men ikke tilstrækkelig. Fagfællebedømt publikation, uafhængig revision eller tredjepartsevaluering giver et tjek af metodisk kvalitet og integriteten af ydeevnepåstande.

• Prospektive eller retrospektive studier i målsettingen: Retrospektiv analyse af eksisterende data kan etablere baseline-ydeevne, men prospektive studier, helst i den faktiske plejesetting, giver stærkere dokumentation for klinisk effekt i praksis.

Validering udført i ét land eller én plejesammenhæng overføres ikke automatisk. En scoping-gennemgang af implementering af astma-kliniske beslutningsstøttesystemer i primærsektoren, der dækker 18 forsøg på tværs af settings, herunder Storbritannien og Spanien, illustrerer, hvordan implementeringsresultater varierer betydeligt mellem sundhedssystemer, selv inden for Europa, afhængigt af arbejdsgangsintegration, patientpopulationskarakteristika og lokale kliniske retningslinjer.

Hvordan primærsektoren introducerer særlige valideringsudfordringer

Almen praksis adskiller sig strukturelt fra de hospitals- og specialistmiljøer, hvor mange kliniske beslutningsstøtteværktøjer først udvikles og valideres. Disse forskelle har betydning for, om et værktøjs ydeevne i én setting kan forudsige dets ydeevne i en anden.

Karakteristika ved primærsektoren, der komplicerer overførsel af validering, omfatter:

• Udifferentierede præsentationer: Praktiserende læger møder patienter, før en diagnose er stillet. Et værktøj valideret på kodede diagnoser fra specialiserede sundhedsjournaler kan præstere dårligt, når det anvendes på de tvetydige, symptombaserede præsentationer, der optræder i almen praksis.

• Tidspres og kognitiv belastning: Høj plejeefterspørgsel og fragmenterede strukturer er velkendte træk ved primærsektorsystemer i Europa. Et værktøj, der kræver omfattende dataindtastning eller forstyrrer det kliniske flow, kan føre til omgåelser, der underminerer dets tilsigtede funktion og validerede ydeevne.

• Forskelligartet og uselekteret demografi: Hospitalsvalideringspopulationer udvælges via henvisningsveje og indlæggelseskriterier. Praktiserende lægers patientgrupper er ikke selekteret på samme måde. Alder, multimorbiditet, sundhedskompetence og socioøkonomisk diversitet i primærsektoren kan afvige markant fra hospitalkohorter, hvilket påvirker både forekomsten af tilstande og de baserater, som prædiktive algoritmer afhænger af.

• Integration med eksisterende systemer: Et kvalitativt studie af en prototype til et klinisk beslutningsstøttesystem i tysk primærsektor, SATURN-projektet, fandt, at iterativ co-udvikling med praktiserende læger og brugbarhedstest var afgørende for at identificere implementeringsbarrierer, der ikke ville have været synlige i et kontrolleret valideringsstudie. Teknisk ydeevne og klinisk brugbarhed er beslægtede, men adskilte dimensioner af validering.

En scoping-gennemgang af kliniske beslutningsstøttesystemer til receptudskrivning i primærsektoren publiceret i begyndelsen af 2025 kortlægger dokumentationshuller på området og finder, at data om implementeringseffekt for primærsektor-receptudskrivningsværktøjer fortsat er begrænsede, og at studiedesigns varierer betydeligt i stringens, hvilket gør direkte sammenligning af leverandørers valideringspåstande vanskelig.

Rollen af dokumentation fra den virkelige verden efter implementering

Pre-implementeringsvalidering fastlægger en baseline for ydeevne under kontrollerede eller semi-kontrollerede forhold. Den kan ikke forudse alle kliniske scenarier, populationsændringer eller retningslinjeskift, der kan opstå, når et værktøj er i aktiv brug. Derfor er post-market klinisk opfølgning (PMCF) en obligatorisk forpligtelse under MDR for medicinsk udstyrssoftware – ikke blot en frivillig kvalitetsforbedringsaktivitet.

PMCF kræver, at producenter systematisk indsamler og gennemgår dokumentation fra den virkelige verden om udstyrets ydeevne efter implementering. For kliniske beslutningsstøtteværktøjer betyder dette:

• Løbende overvågning af anbefalingsnøjagtighed og advarselsrater i klinisk brug

• Overvågning for nye sikkerhedssignaler, herunder mønstre af kliniker-override eller manglende brug, der kan indikere systematiske fejl

• Periodisk revurdering af ydeevne, efterhånden som patientpopulationer ændrer sig, eller kliniske retningslinjer opdateres

• Dokumentation af fund og, hvor nødvendigt, korrigerende handlinger

EU AI-forordningens krav om kontinuerlig post-market risikovurdering forstærker og udvider disse forpligtelser for AI-klassificerede værktøjer, hvilket kræver hændelsesovervågning og tilpasning til den nye europæiske sundhedsdatainfrastruktur.

Sundhedsbeslutningstagere bør spørge leverandører ikke kun om, hvilken pre-implementeringsvalidering der er udført, men også om, hvilken post-market klinisk opfølgningsinfrastruktur der er på plads, og hvordan fund kommunikeres til implementerende organisationer. En leverandør uden en klar plan for post-implementeringsovervågning udgør en ledelsesrisiko såvel som en klinisk risiko.

Indsamling af dokumentation fra den virkelige verden i primærsektoren er strukturelt vanskelig. Højt patientvolumen, varierende datakvalitet i journalsystemer og manglende standardiseret outcome-måling gør det udfordrende at opdage subtil ydeevneforringelse i implementerede kliniske beslutningsstøttesystemer. Dette mindsker ikke forpligtelsen til at indsamle sådan dokumentation. Det betyder, at kvaliteten af post-market kliniske opfølgningsplaner varierer betydeligt og bør vurderes nøje.

Datakrav: GDPR, datalokation og gennemsigtighed om træningsdata

Kvaliteten af et klinisk beslutningsstøtteværktøj kan ikke adskilles fra kvaliteten, oprindelsen og repræsentativiteten af de data, det er trænet og testet på. For europæiske sundhedsbeslutningstagere er tre datarelaterede spørgsmål særligt vigtige.

Overholdelse af databeskyttelsesforordningen og lovlig databrug: Træningsdata til klinisk AI skal være indhentet lovligt. Under databeskyttelsesforordningen (GDPR) kræver dette typisk enten eksplicit patientsamtykke, et legitimt juridisk grundlag for behandling af sundhedsdata eller brug af data, der er blevet tilstrækkeligt anonymiseret. Leverandører bør kunne dokumentere, ikke blot påstå, at deres træningsdata er indhentet i overensstemmelse med gældende databeskyttelseslovgivning. Europa-Kommissionens rammeværk for AI i sundhedsvæsenet positionerer det europæiske sundhedsdatarum (EHDS), hvor EHDS-forordningen træder i kraft i 2025 med trinvis implementering på tværs af medlemsstater, som den primære mekanisme til at muliggøre lovlig brug af sundhedsdata til AI-træning og evaluering på tværs af lande.

Datalokation i EU: Hvor patientdata behandles under inferens – det vil sige, når værktøjet analyserer en rigtig patients data for at generere en anbefaling – er afgørende for GDPR-overholdelse. Data behandlet uden for EU eller Det Europæiske Økonomiske Samarbejdsområde er underlagt overførselsbegrænsninger, medmindre tilstrækkelige sikkerhedsforanstaltninger er på plads. Sundhedsbeslutningstagere bør bekræfte, at en leverandørs behandlingsinfrastruktur opfylder EU's datalokationskrav, ikke blot at leverandøren hævder GDPR-overholdelse i generelle vendinger.

Repræsentativitet og bias i træningsdata: Et værktøj trænet overvejende på data fra én demografisk gruppe, ét sundhedssystem eller én sygdomsprævalenskontekst kan præstere anderledes – og mindre sikkert – når det anvendes på en anden population. Vejledning om dobbelt overholdelse for AI-medicinsk udstyr under MDR og AI-forordningen kræver nu, at producenter dokumenterer biasovervågning og demonstrerer, at træningsdata var repræsentative for den tilsigtede brugspopulation. Beslutningstagere bør bede leverandører om at levere denne dokumentation frem for at acceptere generelle forsikringer.

Hvad man skal spørge en leverandør om, før man adopterer et klinisk beslutningsstøtteværktøj

Følgende spørgsmål giver en praktisk evalueringsramme for praktiserende læger, praksischefer og kliniske ledere, der vurderer et klinisk beslutningsstøtteværktøj før adoption. De dækker de områder, der mest sandsynligt vil afsløre huller mellem en leverandørs påstande og stringensen af deres dokumentation.

Regulatorisk status:

• Er dette værktøj klassificeret som medicinsk udstyr under EU MDR 2017/745? Hvis ja, hvad er dets klassifikation (Klasse I, IIa, IIb eller III)?

• Har det CE-mærkning, og kan du levere overensstemmelseserklæringen?

• Er det blevet vurderet under EU AI-forordningens højrisiko-klassifikation? Hvis ja, hvilken overensstemmelsesvurdering er gennemført?

Klinisk dokumentation:

• Hvilke kliniske valideringsstudier er udført, og er de publiceret i fagfællebedømte tidsskrifter?

• Er valideringsstudierne udført i europæiske primærsektorsettings eller i andre plejesammenhænge?

• Hvad var karakteristikaene ved valideringspopulationen, herunder alder, komorbiditetsprofil, etnicitet og sundhedssystem?

Ydeevne og gennemsigtighed:

• Hvilke ydeevnemålinger rapporteres (sensitivitet, specificitet, positiv prædiktiv værdi, advarselsrater)?

• Kan værktøjet forklare sine anbefalinger i termer, en kliniker kan vurdere? Er modellogikken gennemsigtig eller en sort boks?

• Hvordan præsterer værktøjet på tværs af demografiske undergrupper?

Post-implementering:

• Hvilken post-market klinisk opfølgningsplan er på plads, og hvordan rapporteres fund til implementerende organisationer?

• Hvordan håndteres modelopdateringer, og sker der revalidering, før opdateringer implementeres?

Data og integration:

• Hvor behandles patientdata, og opfylder dette EU's datalokationskrav?

• Kan værktøjet integreres med vores eksisterende journalsystem uden at kræve væsentlig ekstra dataindtastning?

• Hvad er leverandørens informationssikkerhedscertificering (for eksempel ISO 27001)?

Røde flag: når en leverandørs valideringspåstande bør undersøges nærmere

Nogle valideringspåstande er teknisk korrekte, men praktisk vildledende. Følgende mønstre bør give anledning til nærmere undersøgelse fra sundhedsbeslutningstagere.

Validering udført udelukkende uden for Europa. Et værktøj valideret i USA, Australien eller et andet ikke-europæisk sundhedssystem kan være testet på populationer med anden sygdomsprævalens, plejeveje og kliniske kodningspraksisser. Dette diskvalificerer ikke automatisk dokumentationen, men det kræver, at leverandøren dokumenterer, hvorfor resultaterne er overførbare, ikke blot påstår det. Dokumentation fra implementering af astma-kliniske beslutningsstøttesystemer i europæiske primærsektorsettings viser, at resultater varierer selv inden for Europa, hvilket gør ikke-europæisk validering til en væsentlig begrænsning.

Validering kun på specialiseret sundhedsvæsen eller specialistpopulationer. Indlagte hospitalspatienter og henviste specialistpatienter er ikke repræsentative for den udifferentierede population, der præsenterer sig i almen praksis. Et værktøj valideret udelukkende i disse settings er ikke blevet testet på de patienter, en praktiserende læge faktisk vil anvende det til.

Manglende uafhængig fagfællebedømmelse. Interne valideringsrapporter fra producenten er ikke det samme som fagfællebedømt publikation eller uafhængig revision. Hvis en leverandør ikke kan fremvise eksternt vurderet dokumentation, bør valideringsgrundlaget betragtes som foreløbigt.

Uigennemsigtig modellogik. Hvis en leverandør ikke kan eller vil forklare, hvordan værktøjet når sine anbefalinger, kan klinikere ikke meningsfuldt vurdere, om en anbefaling er passende for en specifik patient. Forklarlig AI identificeres i litteraturen om design af kliniske beslutningsstøttesystemer som en forudsætning for klinikertillid og sikker implementering – ikke blot en ønskelig funktion, men et funktionelt krav.

Ingen klar post-market klinisk opfølgningsplan. En leverandør, der ikke kan beskrive, hvordan de vil overvåge ydeevne i praksis efter implementering, har ikke opfyldt deres kliniske dokumentationsforpligtelser under MDR. Dette er både et regulatorisk hul og en klinisk risiko.

Påstande om AI-forordningsoverholdelse uden specifikationer. AI-forordningens overensstemmelsesvurderingskrav for højrisikosystemer omfatter biasovervågning, gennemsigtighedsdokumentation og mekanismer for menneskeligt tilsyn. En generel påstand om overholdelse uden understøttende dokumentation bør betragtes som ubekræftet.

Indkøbs- og ledelseslaget: hvem bør ellers involveres

At adoptere et klinisk beslutningsstøtteværktøj er ikke en beslutning, der kan eller bør hvile hos en enkelt praktiserende læge eller praksischef. Det involverer kliniske, juridiske, informationsledelsesmæssige og organisatoriske risikodimensioner, der kræver input fra flere roller.

Forskning i implementering af kliniske beslutningsstøttesystemer i hollandsk primærsektor identificerer involvering af flere interessenter som en af de to kernemekanismer, der understøtter vellykket implementering, sammen med iterativ co-udvikling. Studiet fandt, at involvering af interessenter på flere niveauer, herunder innovative og indflydelsesrige aktører fra starten, samt opretholdelse af tilpasning gennem en koordinerende aktør, var praktiske forudsætninger for bæredygtig implementering. Beslutninger truffet uden denne bredde af input havde en tendens til at føre til problemer senere – til større omkostninger.

I europæiske sundhedssystemer omfatter de ledelsesroller, der typisk er involveret i indkøb af kliniske beslutningsstøttesystemer:

• Kliniske sikkerhedsofficerer: Ansvarlige for at vurdere klinisk risiko og sikre, at et værktøjs implementering ikke introducerer patientsikkerhedsrisici. I England er denne funktion formaliseret under DCB0160-standarder for klinisk risikostyring. Tilsvarende rammer findes på tværs af EU-landene.

• Informationsledelsesansvarlige: Ansvarlige for at vurdere GDPR-overholdelse, databehandlingsaftaler og datalokation. Leverandørens databehandlingsaftaler bør gennemgås af denne funktion, før nogen patientdata deles med et værktøj.

• Kommissionerende organer og sundhedssystemindkøbere: I offentligt finansierede europæiske sundhedssystemer involverer indkøb af klinisk software typisk formelle udbudsprocesser, kliniske evalueringspaneler og budgetvurderinger. Valideringsdokumentation bør indsendes som en del af disse processer, ikke behandles som en post-kontraktovervejelse.

• Klinisk informatik og journalsystemteams: Integration med eksisterende journalsystemer er både et teknisk og et klinisk ledelsesspørgsmål. Et værktøj, der ikke pålideligt kan få adgang til de nødvendige data, eller som medfører nye dataindtastningsbyrder, vil ikke præstere som valideret.

Pre-implementeringsevalueringsrammen foreslået i RISED-modellen for højrisiko AI-beslutningsstøttesystemer i sundhedsvæsenet anbefaler at behandle overensstemmelsesvurdering, gennemsigtighedsreview og design af menneskeligt tilsyn som integrerede komponenter i én samlet pre-implementeringsproces – ikke som sekventielle trin styret af separate teams. For sundhedsbeslutningstagere betyder det at opbygge en tværfaglig evalueringsproces, før en indkøbsbeslutning træffes – ikke efter kontrakten er underskrevet.

Valideringsdokumentation er i denne sammenhæng ikke blot et dokument, der skal arkiveres. Det er fundamentet, som klinisk ledelse, patientsikkerhed og organisatorisk ansvarlighed hviler på.

Ofte stillede spørgsmål

▶ Hvad er forskellen mellem softwaretest og klinisk validering for et klinisk beslutningsstøtteværktøj?

Softwaretest bekræfter, at et system opfører sig, som dets udviklere har til hensigt. Klinisk validering spørger, om den tilsigtede adfærd giver sikre og effektive resultater for rigtige patienter i et reelt klinisk miljø. Et værktøj kan være teknisk korrekt og klinisk skadeligt på samme tid. For eksempel kan en algoritme, der nøjagtigt beregner en risikoscore baseret på nordamerikanske hospitalsdata, systematisk undervurdere eller overvurdere risikoen i en europæisk primærsektorpopulation med andre demografiske forhold og sundhedssøgende adfærd.

▶ Hvornår kvalificerer et klinisk beslutningsstøtteværktøj som medicinsk udstyr under EU-regler?

Under EU's medicinsk udstyrsforordning (MDR) 2017/745 vil et softwareværktøj, der analyserer patientspecifikke data for at generere anbefalinger til diagnose, behandling, risikostratificering eller receptudskrivning, sandsynligvis opfylde definitionen af medicinsk udstyr. Når det først er klassificeret som sådan, skal det have CE-mærkning, hvilket kræver, at producenten dokumenterer klinisk sikkerhed og ydeevne, før værktøjet markedsføres i Europa. Fra 2026 står AI-baseret medicinsk udstyr også over for dobbelt overholdelse af både MDR og EU's AI-forordning.

▶ Garanterer CE-mærkning, at et klinisk beslutningsstøtteværktøj er sikkert at bruge i min praksis?

Nej. CE-mærkning er en erklæring fra producenten om, at udstyret opfylder gældende regulatoriske krav. Det er en nødvendig forudsætning for lovlig implementering i Europa, men ikke en tilstrækkelig betingelse for klinisk anvendelse i en bestemt setting. En fagfællebedømt analyse publiceret i npj Health Systems identificerer betydelige huller i de nuværende EU MDR-standarder for datadrevne og adaptive AI-systemer, hvilket betyder, at nogle værktøjer kan opnå regulatorisk overholdelse, selvom de stadig mangler den stringente kliniske validering, som implementering i primærsektoren kræver.

▶ Hvorfor er validering af et klinisk beslutningsstøtteværktøj til almen praksis særligt udfordrende?

Almen praksis adskiller sig strukturelt fra de hospitals- og specialistmiljøer, hvor mange værktøjer først udvikles. Praktiserende læger møder patienter, før en diagnose er stillet, så et værktøj valideret på kodede diagnoser fra specialiserede sundhedsjournaler kan præstere dårligt mod de tvetydige, symptombaserede præsentationer, der optræder i almen praksis. Primærsektorpopulationer er også mere forskelligartede i alder, multimorbiditet og socioøkonomisk baggrund end hospitalkohorter, hvilket påvirker de baserater, som prædiktive algoritmer afhænger af.

▶ Hvad betyder post-market klinisk opfølgning for kliniske beslutningsstøtteværktøjer, og hvorfor er det vigtigt?

Post-market klinisk opfølgning (PMCF) er en obligatorisk forpligtelse under MDR for medicinsk udstyrssoftware. Det kræver, at producenter systematisk indsamler og gennemgår dokumentation fra den virkelige verden om udstyrets ydeevne efter implementering. For kliniske beslutningsstøtteværktøjer omfatter dette løbende overvågning af anbefalingsnøjagtighed og advarselsrater, overvågning for mønstre af kliniker-override, der kan indikere systematiske fejl, og periodisk revurdering, efterhånden som patientpopulationer ændrer sig, eller kliniske retningslinjer opdateres. En leverandør uden en klar plan for post-implementeringsovervågning udgør en ledelsesrisiko såvel som en klinisk risiko.

▶ Hvilke datarelaterede spørgsmål bør sundhedsbeslutningstagere stille, før de adopterer et klinisk beslutningsstøtteværktøj?

Tre spørgsmål er særligt vigtige. For det første: Er træningsdata indhentet lovligt under databeskyttelsesforordningen (GDPR), hvilket kræver enten eksplicit patientsamtykke, et legitimt juridisk grundlag eller tilstrækkelig anonymisering? For det andet: Hvor behandles patientdata under inferens, og opfylder dette EU's datalokationskrav? For det tredje: Leverer leverandøren dokumentation, der viser, at træningsdata var repræsentative for den tilsigtede brugspopulation, og at biasovervågning er på plads? Generelle forsikringer om GDPR-overholdelse er ikke en erstatning for konkrete svar på hvert af disse spørgsmål.

▶ Hvad er de røde flag, der bør give anledning til nærmere undersøgelse af en leverandørs valideringspåstande?

Flere mønstre bør give anledning til nærmere undersøgelse. Validering udført udelukkende uden for Europa overføres muligvis ikke til europæiske primærsektorpopulationer. Validering kun på specialiseret sundhedsvæsen eller specialistpopulationer betyder, at værktøjet ikke er testet på de udifferentierede patienter, en praktiserende læge faktisk vil anvende det til. Manglende uafhængig fagfællebedømmelse betyder, at dokumentationsgrundlaget bør betragtes som foreløbigt. Uigennemsigtig modellogik forhindrer klinikere i at vurdere, om en anbefaling er passende for en specifik patient. Og en leverandør, der ikke kan beskrive deres post-market kliniske opfølgningsplan, har ikke opfyldt deres kliniske dokumentationsforpligtelser under MDR.

▶ Hvem bør involveres i beslutningen om at adoptere et klinisk beslutningsstøtteværktøj?

At adoptere et klinisk beslutningsstøtteværktøj er ikke en beslutning, der kan hvile hos en enkelt praktiserende læge eller praksischef. Det involverer kliniske, juridiske, informationsledelsesmæssige og organisatoriske risikodimensioner. De ledelsesroller, der typisk er involveret, omfatter kliniske sikkerhedsofficerer, informationsledelsesansvarlige, kommissionerende organer og kliniske informatikteams, der er ansvarlige for journalsystemintegration. Forskning i implementering af kliniske beslutningsstøttesystemer i hollandsk primærsektor identificerer involvering af flere interessenter som en af de to kernemekanismer, der understøtter vellykket implementering, sammen med iterativ co-udvikling.

▶ Hvilken klinisk dokumentation bør en leverandør kunne levere, før et værktøj adopteres?

Leverandører bør kunne levere fagfællebedømt publikation af kliniske valideringsstudier, detaljer om valideringspopulationen, herunder alder, komorbiditetsprofil, etnicitet og sundhedssystem, samt ydeevnemålinger såsom sensitivitet, specificitet og positiv prædiktiv værdi. Studier udført i europæiske primærsektorsettings vejer tungere end dem udført i andre plejesammenhænge. Interne valideringsrapporter fra producenten er ikke det samme som uafhængigt vurderet dokumentation og bør betragtes som foreløbige, hvis ingen ekstern vurdering foreligger.

▶ Hvordan ændrer EU's AI-forordning overholdelseskrav for kliniske beslutningsstøtteværktøjer?

EU's AI-forordning klassificerer automatisk AI-baserede kliniske beslutningsstøttesystemer som højrisiko. Dette udløser obligatorisk overensstemmelsesvurdering, biasovervågning, gennemsigtighedskrav og krav om menneskeligt tilsyn, der rækker ud over, hvad MDR alene krævede. Fra 2026 står producenter af AI-baseret medicinsk udstyr over for dobbelt overholdelse af både MDR og AI-forordningen. En generel påstand om AI-forordningsoverholdelse uden understøttende dokumentation bør betragtes som ubekræftet.