·

·

12

min. læsetid

AI-dokumentation i kommunal sundhed: vurderingsramme

Ramme for europæiske kommuner, der evaluerer AI-dokumentationsassistance i kommunale sundhedsprogrammer. Dækker MDR, GDPR, sikkerhed, arbejdsgangstilpasning og governance

Consultant psychiatrist conducting a mental state examination, listening to a patient and making notes on a structured assessment form in an NHS consulting room

Kommunale sundhedsprogrammer har brug for en separat evalueringsramme for AI-dokumentationsværktøjer, fordi de fungerer fundamentalt anderledes end hospitaler og lægepraksis: de er sygeplejerskeledet, spredt over ustabile lokationer, og personalet fungerer på én gang som kliniker, plejekoordinator og sagsbehandler.

Hvad en AI-dokumentationsassistent faktisk gør, og hvad den ikke gør

Før man overhovedet begynder på en regulatorisk eller indkøbsvurdering, er det nødvendigt at have en præcis funktionel definition af det værktøj, der evalueres. Fejlklassificering på dette tidspunkt skaber overholdelsesproblemer, der er svære at rette bagefter.

En AI-dokumentationsassistent lytter til en klinisk samtale, omsætter talt indhold til tekst ved hjælp af tale-til-tekst-teknologi og genererer et struktureret journalnotat ud fra denne transskription. Den fortolker ikke kliniske fund, foreslår ikke diagnoser, anbefaler ikke behandlinger og markerer ikke klinisk risiko. Det er netop disse funktioner, der definerer klinisk beslutningsstøtte, som er underlagt andre regulatoriske forpligtelser under både EU's forordning om medicinsk udstyr (MDR) og EU's AI-forordning.

En praktisk test: Hvis man fjerner AI-værktøjets output fra en konsultation, og det ikke ændrer klinikerens vurdering, fungerer værktøjet som en dokumentationsassistent. Hvis outputtet derimod ændrer, hvad klinikeren beslutter at gøre næste gang, fungerer det som klinisk beslutningsstøtte. The Lancet Primary Cares ramme for kategorisering af AI-applikationer i primærsektoren bruger WHO's taksonomi for digitale sundhedsinterventioner til netop at foretage denne sondring. Administratorer, der blander de to kategorier sammen, risikerer enten at overregulere et dokumentationsværktøj eller at underregulere et værktøj, der faktisk udfører kliniske funktioner, begge dele med alvorlige konsekvenser for overholdelse og patientsikkerhed.

Regulatorisk klassificering: MDR, AI-forordningen og GDPR

Klassificering under MDR (forordning 2017/745) er den første formelle afgørelse, der skal træffes. Det centrale spørgsmål er, om AI-dokumentationsassistenten opfylder MDR's definition af medicinsk udstyr, det vil sige om den er beregnet til diagnose, forebyggelse, overvågning, behandling eller lindring af sygdom. Et værktøj, der kun optager og strukturerer kliniske samtaler uden at fortolke deres kliniske indhold, falder som udgangspunkt uden for MDR's anvendelsesområde. Et værktøj, der genererer kliniske anbefalinger, risikoscorer eller diagnostiske forslag, falder inden for det.

Selv et værktøj klassificeret som ikke-udstyr kan have forpligtelser under AI-forordningen, hvis det bruges på en måde, der påvirker kliniske beslutninger med betydning for patientsikkerheden. Det er samspillet mellem de tre regelsæt, der gør klassificeringsarbejdet komplekst. Samspillet mellem MDR, GDPR og EU's AI-forordning er beskrevet nærmere andetsteds. Hertil kommer en praktisk flaskehals, som en analyse af AI-forordningens konsekvenser for sundhedsvæsenet påpeger: der er simpelthen ikke bemyndigede organer nok med kapacitet til at vurdere AI-baseret medicinsk udstyr. Administratorer bør spørge leverandører direkte om den aktuelle status for deres overensstemmelsesvurdering og ikke gå ud fra, at CE-mærkning er nært forestående, hvis den endnu ikke er givet.

Administratorer bør anmode enhver leverandør om følgende: en skriftlig erklæring om tilsigtet formål; bekræftelse af MDR-klassificering og grundlaget for den; CE-mærkningsdokumentation eller en klar forklaring på, hvorfor værktøjet falder uden for MDR's anvendelsesområde; dokumentation for eventuel involvering af et bemyndiget organ.

På GDPR-siden behandler en AI-dokumentationsassistent særlige kategorier af personoplysninger, nemlig sundhedsdata om identificerbare personer, hvilket udløser det strengeste niveau af forpligtelser. Kommuner, der fungerer som dataansvarlige, skal bekræfte det lovlige grundlag for behandling (typisk artikel 9, stk. 2, litra h) kombineret med artikel 6, stk. 1, litra e)). De skal sikre, at en databehandleraftale i overensstemmelse med artikel 28 er på plads før ibrugtagning, og de skal kræve kontraktlige garantier for, at patientdata opbevares og behandles inden for EU eller EØS. EU's krav til, hvor sundhedsdata må opbevares geografisk, er et væsentligt indkøbskriterium. Leverandørens brug af underleverandører, herunder udbydere af cloud-infrastruktur, skal oplyses og vurderes. Det europæiske sundhedsdataområde (EHDS), som trådte i kraft i 2025, tilføjer endnu et lag af forpligtelser til styring af sundhedsdata, som kommuner i EU-medlemsstater skal have med i deres vurdering.

Sikkerhedsvurdering: certificeringer og praktiske kontroller

ISO 27001 er den grundlæggende certificering, administratorer bør kræve. Den dokumenterer, at leverandøren har indført et styringssystem for informationssikkerhed, som er blevet uafhængigt revideret. Ud over selve certifikatet bør administratorer skriftligt bekræfte følgende:

  • Hvem i leverandørorganisationen kan få adgang til patientdata, under hvilke betingelser, og hvilket revisionsspor efterlader det?

  • Er data krypteret under overførsel og i hvile, og hvilke standarder anvendes?

  • GDPR kræver underretning til tilsynsmyndigheder inden for 72 timer efter et brud. Leverandørens kontraktlige forpligtelse skal understøtte denne tidsfrist.

  • Hvor ofte tester en uafhængig part systemet for sårbarheder, og er rapporterne tilgængelige?

Nationale rammer for sikkerhed af sundhedsdata, såsom dem, der drives af nationale cybersikkerhedsagenturer i Frankrig, Tyskland eller Nederlandene, kan stille yderligere krav oven i ISO 27001. Kommuner bør undersøge, om deres nationale ramme gælder for kommunale systemer til sundhedsdata, og indhente skriftlig bekræftelse fra leverandøren om, at disse krav er opfyldt.

Hospitalsvaliderede værktøjer holder ikke nødvendigvis i kommunal sundhed

Størstedelen af evidensen for AI-dokumentationsværktøjer stammer fra specialiseret sundhedsvæsen og lægepraksis, sammenhænge med faste konsultationsrum, dedikeret it-infrastruktur og klinikere med beskyttet tid til dokumentation. Kommunal sundhedslevering ser fundamentalt anderledes ud.

Hjemmebesøg og skolesundhedstjek foregår i skiftende akustiske omgivelser med ustabil internetadgang. Konsultationerne er kortere og mindre strukturerede end hospitalsaftaler. Sproget er mere samtalebaseret og klinisk set mindre forudsigeligt. Personalet håndterer kliniske, socialfaglige og folkesundhedsmæssige opgaver inden for ét og samme møde, og delte eller personlige enheder rejser sikkerhedsspørgsmål, som faste hospitalsenheder ikke gør.

Et multicenter-implementeringsstudie af klinisk beslutningsstøtte i forskellige primærsektorindstillinger fandt, at brugercentreret design og test af arbejdsgangintegration var afgørende for, om implementeringen lykkedes, og det gælder direkte for AI-dokumentationsværktøjer i kommunale sammenhænge. Administratorer bør spørge leverandører direkte, om værktøjet er blevet testet i kommunale sundhedstjenester, ved hjemmebesøg eller i skolesundhedskontekster, og bede om præstationsdata fra disse sammenhænge frem for fra hospitalsmiljøer. Et særligt vigtigt punkt er offline-funktionalitet: mange sundhedsbesøg i lokalsamfundet finder sted på steder med upålidelig internetadgang, og det skal afklares, om værktøjet kræver konstant forbindelse, eller om det kan fungere offline og synkronisere, når forbindelsen er genetableret.

Personalets ansvar, træning og forandringsledelse

Den kliniker, der gennemførte mødet, beholder det fulde professionelle og juridiske ansvar for nøjagtigheden af ethvert AI-genereret journalnotat. Det AI-genererede notat er et udkast til klinisk gennemgang, ikke en endelig registrering. Det skal kommunikeres klart og utvetydigt til alt personale før implementering og indarbejdes i træningsmaterialerne.

Teknisk træning i, hvordan man betjener værktøjet, er nødvendig, men ikke tilstrækkelig. En tværsnitsundersøgelse af sundhedsprofessionelles brug af AI-dokumentationsværktøjer fandt, at kendskabet til AI-værktøjer og bevidstheden om institutionelle politikker begge var lave, selv blandt fagfolk, der arbejdede i sammenhænge, hvor AI-værktøjer var tilgængelige. Personalet har brug for støttet erfaring, så de kan opbygge tillid til værktøjets output og udvikle den kritiske dømmekraft, der gør dem i stand til at opdage, hvornår det AI-genererede notat ikke nøjagtigt afspejler det kliniske møde. Det er den kompetence, der reelt beskytter patientsikkerheden.

I sygeplejerskeledede tjenester, sundhedsplejerskeprogrammer og skolesundhedsteams er de primære brugere autoriserede sygeplejersker og sundhedsarbejdere i lokalsamfundet, ikke læger. Træning og forandringsledelse skal derfor tilrettelægges til denne arbejdsstyrke og ikke blot tilpasses fra materialer udviklet til læge- eller hospitalskontekster. WHO's europæiske regions vurdering peger på arbejdsstyrkens parathed som én af de mest betydningsfulde barrierer for AI-adoption i sundhedssystemer på tværs af den europæiske region og understreger behovet for struktureret forandringsledelse med personalemøder før implementering, trinvis udrulning med udpegede tidlige brugere, løbende feedbackmekanismer og navngivne kliniske ledere med ansvar for styring og kvalitetssikring.

Nøjagtighed, sproglig mangfoldighed og løbende kvalitetssikring

Administratorer bør ikke overlade vurderingen af nøjagtighed til leverandørerne alene. Et journalnotat genereret til en sundhedsplejerskes hjemmebesøg stiller andre strukturelle krav end et lægenotat. Administratorer bør på forhånd definere, hvad et tilfredsstillende notat ser ud for hver mødetype i deres program: hvilke felter der skal være til stede, hvilket klinisk sprog der er passende, og hvilke udeladelser der ville udgøre en væsentlig fejl.

Et tidsbegrænset pilotprojekt med en defineret gruppe af personale og mødetyper bør gennemføres. Pilotprojektet skal omfatte uafhængig gennemgang af AI-genererede notater sammenholdt med kliniker-skrevne notater samt struktureret registrering af fejl, udeladelser og hallucinationer, det vil sige tilfælde, hvor AI'en genererer indhold, der ikke blev sagt. Accepttærskler for nøjagtighed skal fastsættes, før pilotprojektet begynder, ikke bagefter. Løbende kvalitetsgennemgang af et udsnit af AI-genererede notater, udført af en klinisk styringsansvarlig, bør være en del af programmets styringsramme fra starten.

Kommunale sundhedsprogrammer betjener ofte sprogligt mangfoldige befolkninger, og lighed udgør her en styringsforpligtelse, ikke en abstrakt bekymring. AI-dokumentationsværktøjer, der fungerer godt med standard talt hollandsk, tysk eller engelsk, kan klare sig væsentligt dårligere med tale med accent, regionale dialekter eller samtaler, hvor der skiftes mellem sprog. The Lancet Primary Care fremhæver lighed som et kerneprincip for AI-integration i primær- og lokalsamfundspleje og bemærker, at værktøjer, der fungerer forskelligt på tværs af befolkningsgrupper, risikerer at forstærke eksisterende uligheder i sundhed. For kommunale programmer med et eksplicit folkesundhedsmandat er dokumenteret præstation på tværs af alle betjente sproggrupper derfor et indkøbskrav.

Administratorer bør spørge leverandører om, på hvilke sprog og sprogvarianter værktøjet er valideret, hvad den dokumenterede forskel i nøjagtighed er mellem standard og ikke-standard tale, og hvordan tolkeformidlede konsultationer håndteres. Testningen bør omfatte personale og patienter, der er repræsentative for kommunens faktiske befolkningssammensætning, ikke kun den største sproggruppe.

Integration med journalsystemer og it-infrastruktur

Teknisk integration er ofte det element i en implementering, der tager længst tid, og det bør vurderes tidligt. Europa-Kommissionens analyse peger på fragmenteret datainfrastruktur og ældre systemer som én af de primære barrierer for AI-implementering i europæiske sundhedsindstillinger. Kommunale folkesundheds-it-miljøer indeholder ofte ældre systemer, der går forud for moderne standarder for dataudveksling. Administratorer bør indhente en klar teknisk vurdering af, om AI-værktøjet kan fungere inden for den eksisterende infrastruktur, eller om det kræver systemopgraderinger som forudsætning.

Direkte integration via API, HL7 FHIR eller en leverandørspecifik forbindelseskomponent medfører hver sin implementeringskompleksitet og sine vedligeholdelsesforpligtelser. En vejledning i Journal of Medical Internet Research (JMIR) om overholdelse af AI-forordningen inden for MyHealth@EU-rammen beskriver den dobbelte overholdelsesbyrde: lodrette sikkerheds- og etikkontroller under AI-forordningen og vandrette krav til dataudveksling under MyHealth@EU ved brug af FHIR/HL7-standarder. Kommuner, der deltager i programmer for grænseoverskridende udveksling af sundhedsdata, skal sikre, at AI-værktøjets output er kompatibelt med disse standarder. Før ibrugtagning skal et komplet dataflowkort, der viser, hvor data oprettes, behandles, opbevares og slettes, udarbejdes og gennemgås af databeskyttelsesrådgiveren.

Indkøb og intern styring: hvem der skal involveres og hvornår

Administratorer, der behandler indkøb som primært et teknologikøb frem for en styringsproces, løber typisk ind i forsinkelser og indsigelser, der kunne have været forudset. Rækkefølgen, hvori interessenter inddrages, har betydning.

Databeskyttelsesrådgiveren (DPO) skal involveres fra starten, ikke til sidst. DPO'en skal gennemføre eller overvåge en konsekvensanalyse vedrørende databeskyttelse (DPIA) i henhold til artikel 35 GDPR, som er obligatorisk, når AI behandler sundhedsdata i stor skala. Den kliniske styringsansvarlige definerer kvalitetsstandarder, overvåger pilotprojektet og tager ansvar for løbende nøjagtighedsgennemgang. It- og informationssikkerhedsteams vurderer teknisk integration og infrastrukturkompatibilitet. Juridisk rådgiver gennemgår leverandørkontrakter og kommunens ansvarsstilling under MDR, AI-forordningen og gældende national lovgivning. Økonomi og indkøb sikrer overholdelse af reglerne for offentlige udbud, i EU-medlemsstater typisk udbudsdirektivet for kontrakter over tærskelværdierne. Kliniske personalerepræsentanter bør inddrages i kravdefinition og pilotdesign fra begyndelsen.

Forretningssagen til godkendelse bør adressere: målbar reduktion af dokumentationsbyrden for sygeplejerske- og sundhedspersonale; fastholdelse af personale og reduktion af udbrændthed som argument for arbejdsstyrkens bæredygtighed; overholdelse af regler som en risikostyringsforpligtelse; omkostninger ved implementering inklusive træning og integration; samt risici ved ikke at handle. EU's AICare@EU-initiativ og EU4Health-finansiering kan åbne muligheder for medfinansiering til kommuner i medlemsstater og bør indgå i den økonomiske vurdering.

Tjekliste før implementering

Nedenstående samler de vigtigste vurderingsspørgsmål som en praktisk reference til administratorer, der er på vej fra evaluering til indkøbsbeslutning.

Regulatorisk klassificering

  • Har leverandøren leveret en skriftlig erklæring om tilsigtet formål?

  • Er MDR-klassificering fastslået og grundlaget dokumenteret?

  • Er værktøjets klassificering under EU's AI-forordning vurderet?

GDPR og datastyring

  • Er en DPIA iværksat og tildelt DPO'en?

  • Er en overholdende databehandleraftale på plads før ibrugtagning?

  • Har leverandøren bekræftet EU/EØS-datalokation, og er en komplet liste over underleverandører gennemgået?

  • Er et dataflowkort udarbejdet og gennemgået af DPO'en?

Sikkerhed

  • Har leverandøren aktuel ISO 27001-certificering, der dækker de relevante systemer?

  • Er adgangskontrol, kryptering, revisionslogfiler og tidsfrister for underretning om brud bekræftet skriftligt?

  • Er kravene i den nationale ramme for sikkerhed af sundhedsdata vurderet og opfyldt?

Arbejdsgangstilpasning og it-integration

  • Er værktøjet testet i kommunale sundhedstjenester, ved hjemmebesøg eller i skolesundhedsindstillinger, og er præstationsdata tilgængelige?

  • Fungerer værktøjet under forhold med lav forbindelse eller offline?

  • Er kompatibilitet med journalsystemet bekræftet, og er begrænsninger ved ældre systemer vurderet?

  • Er FHIR/HL7-kompatibilitet bekræftet, hvor det er relevant?

Personale, nøjagtighed og befolkningens sproglige mangfoldighed

  • Er ansvaret for notatnøjagtighed klart kommunikeret og dokumenteret?

  • Er accepttærskler for nøjagtighed defineret, og er en struktureret pilotplan med uafhængig notatgennemgang på plads?

  • Er et træningsprogram tilrettelagt til den specifikke arbejdsstyrke på plads, herunder en plan for forandringsledelse?

  • Er værktøjet valideret på de sprog og dialekter, der tales i kommunens befolkning, og er tolkeformidlede konsultationer testet?

Intern styring og indkøb

  • Er alle nødvendige interne interessenter (DPO, klinisk styring, it, juridisk, økonomi) inddraget?

  • Overholder indkøbsprocessen gældende regler for offentlige udbud?

  • Er forretningssagen forberedt, så den adresserer både effektivitetsgevinster og risikostyringsforpligtelser?

Ofte stillede spørgsmål

▶ Hvorfor har kommunale sundhedsprogrammer brug for en separat evalueringsramme for AI-dokumentationsværktøjer?

Fordi fejl i evalueringen er svære at rette bagefter. Et værktøj, der er godkendt til hospitalsindstillinger, kan bestå alle formelle krav og stadig svigte ved hjemmebesøg, hvor forbindelsen er ustabil, akustikken varierer, og den samme person håndterer kliniske, sociale og koordinerende opgaver i ét møde.

▶ Hvad gør en AI-dokumentationsassistent faktisk i en sundhedsindstilling i lokalsamfundet?

Den optager en klinisk samtale, omsætter den til tekst og genererer et struktureret journalnotat. Den vurderer ikke kliniske fund og anbefaler ikke behandling. Brug den praktiske test: ændrer fjernelse af værktøjets output klinikerens beslutning? Hvis ja, er der tale om klinisk beslutningsstøtte med andre regulatoriske krav.

▶ Hvordan gælder EU's forordning om medicinsk udstyr (MDR) for AI-dokumentationsværktøjer i kommunal sundhed?

Spørg leverandøren om to ting: den skriftlige erklæring om tilsigtet formål og grundlaget for MDR-klassificeringen. Vær opmærksom på, at manglen på bemyndigede organer med kapacitet til at vurdere AI-baseret medicinsk udstyr betyder, at CE-mærkning kan være langt fra klar, selv når en leverandør antyder det modsatte.

▶ Hvilke GDPR-forpligtelser gælder, når en kommune bruger en AI-dokumentationsassistent til at behandle patientdata?

Udover databehandleraftalen og EU/EØS-datalokation skal kommunen fra 2025 også forholde sig til det europæiske sundhedsdataområde (EHDS), som tilføjer et ekstra lag af styringsforpligtelser. Indhent en komplet liste over leverandørens underleverandører, herunder cloud-infrastrukturudbydere, og få den gennemgået af databeskyttelsesrådgiveren.

▶ Hvilke sikkerhedscertificeringer og kontroller bør administratorer kræve fra AI-dokumentationsleverandører?

ISO 27001 er udgangspunktet. Bed om skriftlig bekræftelse på kryptering, adgangskontrol, revisionslogfiler og 72-timers underretning ved brud. Undersøg dernæst, om din nationale ramme for sikkerhed af sundhedsdata stiller yderligere krav til kommunale systemer, og få leverandørens skriftlige svar på det.

▶ Hvorfor kan et hospitalsvalideret AI-dokumentationsværktøj fungere anderledes i sundhedsindstillinger i lokalsamfundet?

Bed leverandøren om præstationsdata fra kommunale sundhedstjenester, hjemmebesøg eller skolesundhedskontekster. Afklar specifikt, om værktøjet kræver konstant internetforbindelse, eller om det kan fungere offline og synkronisere bagefter. Det er det spørgsmål, hospitalsvalidering ikke besvarer.

▶ Hvem er ansvarlig for nøjagtigheden af AI-genererede journalnotater i en sygeplejerskeledet sundhedstjeneste i lokalsamfundet?

Den kliniker, der gennemførte mødet, beholder det fulde professionelle og juridiske ansvar. Det AI-genererede notat er et udkast til klinisk gennemgang. Ansvarsfordelingen skal stå i træningsmaterialerne og kommunikeres til personalet, inden værktøjet tages i brug.

▶ Hvordan bør administratorer evaluere AI-dokumentationsværktøjets nøjagtighed før implementering på tværs af et sundhedsprogram i lokalsamfundet?

Fastsæt accepttærskler for nøjagtighed, før pilotprojektet begynder. Definer på forhånd, hvilke felter der skal være til stede i et tilfredsstillende notat for hver mødetype, og hvad der tæller som en væsentlig udeladelse. Tærskler fastsat efter pilotprojektet er ikke tærskler, de er efterrationaliseringer.

▶ Hvordan bør administratorer vurdere, om et AI-dokumentationsværktøj kan betjene sprogligt forskellige sundhedsbefolkninger i lokalsamfundet?

Spørg leverandøren om den dokumenterede nøjagtighedsforskel mellem standard og ikke-standard tale, og om tolkeformidlede konsultationer er testet. For kommuner med et folkesundhedsmandat er dokumenteret præstation på tværs af alle betjente sproggrupper et indkøbskrav, ikke et ønskemål.

▶ Hvilke interne interessenter skal involveres i indkøb af en AI-dokumentationsassistent til et kommunalt sundhedsprogram?

Databeskyttelsesrådgiveren, klinisk styringsansvarlig, it og informationssikkerhed, juridisk rådgiver, økonomi og indkøb samt kliniske personalerepræsentanter. Rækkefølgen betyder noget: administratorer, der inddrager databeskyttelsesrådgiveren sent, opdager typisk, at DPIA-processen forsinker ibrugtagningen.

Get started with Tandem today

Join thousands of clinicians enjoying stress-free documentation.

Get started with Tandem today

Join thousands of clinicians enjoying stress-free documentation.

Get started with Tandem today

Join thousands of clinicians enjoying stress-free documentation.