·

·

10

min. læsetid

Opbygning af tillid til AI-genererede journalnotater

Hvordan klinikere udvikler tillid til AI-dokumentationsassistenter gennem aktiv gennemgang, kalibreret vurdering og professionelt engagement med outputtet.

Sundhedsteam opbygger tillid til AI-genereret klinisk dokumentation

Klinikere, der tager en AI-dokumentationsassistent i brug, forventer lettelse – men oplever ofte i stedet usikkerhed. Notater dukker op i journalsystemet og virker plausible, men er ikke skrevet på den velkendte måde. Det rejser et stille, vedvarende spørgsmål: Kan jeg fuldt ud stå inde for dette?

Hvorfor klinikere stiller spørgsmålstegn ved AI-genererede notater

Ubehaget er ikke irrationelt. Det afspejler et reelt skift i rolle: fra forfatter til korrekturlæser. Når en kliniker skriver et notat manuelt, er selve skrivningen en form for verifikation, fordi hver sætning kræver aktiv erindring og bevidste sprogvalg. Når en AI-dokumentationsassistent genererer notatet, springes denne kognitive proces over, og med den forsvinder noget af den følte sikkerhed for, at journalen afspejler, hvad der faktisk skete.

Forskning bekræfter billedet, men nuancerer det. En prospektiv kvalitetsforbedringsundersøgelse publiceret i JAMA Network Open blandt 46 klinikere på tværs af 17 specialer fandt, at AI-genererede notater reducerede den kognitive indsats ved dokumentation. Tilbagemeldingerne om notatkvalitet var dog blandede: nogle klinikere fandt notaterne nøjagtige og detaljerede, andre fandt dem fejlbehæftede og krævende betydelig redigering. En rammeundersøgelse fra 2025 publiceret i PMC om klinikertillid og AI-konfidens-kalibrering pegede på to primære barrierer: utilstrækkelig gennemsigtighed og dårlig tilpasning til virkelige beslutningsprocesser. Når klinikere ikke let kan spore en sætning tilbage til noget, de faktisk sagde under konsultationen, er det naturligt, at tilliden svigter.

Anvendelsen stiger ikke desto mindre. En artikel fra 2025 i The American Journal of Medicine bemærkede, at mindst to tredjedele af lægerne ser AI som gavnlig for deres praksis, og at anvendelsen inden for medicinsk dokumentation stiger med næsten 70 procent. Artiklen advarede samtidig om, at brug uden tilstrækkelig validering indebærer reelle risici, herunder unøjagtige output og algoritmisk bias.

Tillid til værktøjet er ikke det samme som tillid til notatet

En vigtig sondring bliver ofte sammenblandet: tillid til værktøjet som produkt er ikke det samme som tillid til hvert enkelt notat, det producerer.

At stole på værktøjet handler om regeloverholdelse, datasikkerhed og generel pålidelighed. I en europæisk klinisk sammenhæng drejer det sig om, hvorvidt produktet lever op til kravene i EU's forordning om medicinsk udstyr (MDR), og om datahåndteringen er i overensstemmelse med databeskyttelsesforordningen (GDPR). Det er spørgsmål, der besvares på organisations- eller indkøbsniveau.

At stole på outputtet, et specifikt notat genereret under en bestemt konsultation, kræver noget andet: at klinikeren læser notatet, sammenligner det med sin erindring om mødet og foretager en professionel vurdering af, om det nøjagtigt afspejler, hvad der skete. Af de to former for tillid er denne den mere krævende og den, der faktisk beskytter patienten. En artikel fra 2025 i NEJM AI om store sprogmodellers hallucinationer i kliniske dokumenter beskrev unøjagtigheder som en strukturel barriere og understregede, at klinikerens årvågenhed forbliver den vigtigste mekanisme til at fange fejl. En styringsramme publiceret i Healthcare (Basel) i 2026 bekræftede dette og fastslog, at notatet udgør et udgangspunkt, der kræver klinikerens gennemgang og godkendelse, før det er færdigt.

Hvad et godt AI-genereret notat faktisk kræver

En del af grunden til, at klinikere kæmper med at stole på AI-genererede notater, er fraværet af en klar målestok. Uden en defineret standard kan enhver afvigelse fra det notat, en kliniker selv ville have skrevet, føles som en fejl, selv når den ikke har nogen klinisk betydning.

En fagfællebedømt undersøgelse fra 2025 i Frontiers in Artificial Intelligence, der direkte sammenlignede AI-genererede journalnotater med lægeudarbejdede notater, fandt, at AI-notater klarede sig bedre på grundighed og organisation, mens lægenotater scorede højere på nøjagtighed og intern konsistens. Fuldstændighed og præcision følges altså ikke altid ad, og det er præcisionen der tæller klinisk.

Realistiske kvalitetsmål for AI-assisteret klinisk dokumentation kan samles i fem punkter. Notatet skal gengive den præsenterende klage, undersøgelsesfund og klinisk ræsonnement korrekt. Sektioner skal optræde i en logisk rækkefølge i overensstemmelse med den kliniske kontekst og eventuelle relevante skabeloner. Intet væsentligt må være udeladt, og intet må være tilføjet, som ikke blev diskuteret. Hvor SNOMED- eller ICD-koder anvendes, skal de matche det dokumenterede kliniske indhold. Og notatet skal holde, hvis en kollega, en klinisk leder eller et tilsynsorgan gennemgår det. Den relevante målestok er professionel tilstrækkelighed. Stilistisk lighed med notater, klinikeren selv ville have skrevet, er ikke et krav.

En korrekturvane der genopretter ejerskab

Den mest pålidelige måde at genopbygge tillid på er en konsekvent og enkel korrekturproces, der anvendes på hvert notat, før det indgår i journalsystemet. At læse, redigere hvor nødvendigt og bevidst godkende hvert notat genetablerer klinikeren som forfatter snarere end tilskuer.

En oversigtsartikel publiceret i PMC i december 2024 identificerede gennemsigtighed, klinikerautonomi og tilstrækkelig træning som de tre søjler, der er nødvendige for tillid til AI-dokumentationsværktøjer. En struktureret korrekturvane understøtter direkte to af disse tre. I praksis betyder det: læse notatet grundigt frem for at skimme det; kontrollere at det kliniske ræsonnement afspejler faktisk beslutningstagning og ikke blot en plausibel rekonstruktion; verificere medicin, doser og undersøgelsesresultater; bekræfte at notatet ikke indeholder noget, klinikeren ikke sagde eller havde til hensigt; og foretage redigeringer aktivt frem for at acceptere notatet, som det er.

Selve redigeringerne er vigtige. Hver rettelse er en lille handling af forfatterskab, der styrker klinikerens forhold til journalen. Over tid skifter korrekturprocessen fra at føles som kvalitetskontrol af andres arbejde til at føles som den afsluttende fase af klinikerens egen dokumentationsproces, en forskel der mærkes tydeligt i den daglige arbejdsrytme.

Hvordan erfaring kalibrerer tilliden over tid

Tillid til en AI-dokumentationsassistent udvikler sig ikke lineært. De fleste klinikere oplever en indledende periode med øget kontrol, efterfulgt af en gradvis rekalibrering, efterhånden som mønstrene bliver velkendte. PMC-rammen om konfidens-kalibrering i AI-diagnostik beskriver denne proces eksplicit: efterhånden som klinikere opbygger erfaring med et specifikt værktøj, udvikler de en intuitiv fornemmelse af, hvor det leverer pålidelige resultater, og hvor det har tendens til at introducere fejl eller udeladelser.

Klinikere rapporterer ofte, at strukturerede opfølgninger, medicingennemgange og enkle akutte præsentationer håndteres godt. Komplekse konsultationer med flere samtidige sygdomme og følelsesmæssigt følsomme møder leveres til gengæld mindre konsistent. At kende disse mønstre gør det muligt at tilpasse korrekturindsatsen: mere omhyggelig kontrol der, hvor værktøjet er kendt for at komme til kort, og lettere korrektur der, hvor det konsekvent leverer gode resultater.

En hurtig gennemgang publiceret i JMIR AI i 2025, der opsummerede virkelige erfaringer med digitale skriveassistenter, konkluderede, at digitale skriveassistenter lover at reducere dokumentationsbyrden og øge klinikertilfredshed, men at det nuværende evidensgrundlag stadig er spinkelt. Kalibreret tillid bør derfor forblive lydhør over for både klinikerens egne erfaringer og den voksende forskningsbase.

Teamkultur som del af implementeringsinfrastrukturen

Individuel tillid udvikler sig ikke i et vakuum. Normer og delte oplevelser inden for en praksis eller afdeling former, hvordan den enkelte kliniker fortolker sin egen usikkerhed, og om vedkommende føler sig tryg ved at rejse bekymringer. Teams, der åbent diskuterer AI-assisteret dokumentation og deler eksempler på notater, der krævede betydelig redigering, hjælper med at normalisere tilpasningsperioden. Når en kliniker hører, at en respekteret kollega også fandt de første par uger udfordrende, bliver oplevelsen omfortolket som en forudsigelig fase snarere end et personligt nederlag.

Senioreklinikere spiller en særlig rolle her. Når erfarne praktikere synligt læser, redigerer og diskuterer AI-genererede notater som en rutinemæssig del af deres dokumentationspraksis, etablerer de en teamnorm om, at aktivt engagement med AI-output er forventet og professionelt. Kommentaren i American Journal of Medicine om tillid og værdi i AI-drevet medicin argumenterede for, at en rettidig og gennemsigtig AI-implementering kræver tillid blandt alle sundhedsinteressenter, ikke kun forholdet mellem klinikere og værktøjer, men også forholdet mellem klinikere og deres institutioner samt klinikere indbyrdes. Teamkultur udgør således en central del af implementeringsinfrastrukturen, ikke blot en blød faktor ved siden af den.

Hvornår bekymringer om notatkvalitet skal eskaleres

Rutinemæssig redigering forventes og kræver ikke eskalering. Den vigtige sondring er mellem individuelle rettelser og fejlmønstre, der tyder på et systematisk problem med værktøjet, konfigurationen eller den kliniske kontekst.

Bekymringer, der bør eskaleres til en klinisk leder, IT-team eller AI-leverandøren, falder i fire kategorier. Gentagne faktuelle unøjagtigheder af samme type, for eksempel konsekvent fejlattribuering af symptomer eller generering af plausible, men ukorrekte medicindetaljer. Notater der udelader en bestemt kategori af klinisk information på tværs af flere konsultationer. Output der ser ud til at afspejle en anden konsultation end den, der blev optaget, hvilket tyder på en transskriptions- eller tilskrivningsfejl. Og enhver situation, hvor et unøjagtigt notat kom ind i journalsystemet uden korrektion og fik kliniske konsekvenser.

Artiklen i NEJM AI om faktaverifikation i LLM-genererede dokumenter understregede, at hallucinationer, det vil sige plausible, men faktuelt ukorrekte udsagn, udgør en strukturel risiko, ikke en lejlighedsvis fejl. Når en kliniker støder på, hvad der ser ud til at være en hallucination, er det ikke en rutinemæssig redigeringsopgave. Det er information, som leverandøren og det kliniske styringsteam skal vurdere, og at videregive den er et professionelt ansvar.

Klinikerens ansvar forbliver uændret

Uanset hvordan et journalnotat blev genereret, beholder den kliniker, der underskriver det, det fulde professionelle og juridiske ansvar for dets indhold. Det gælder, hvad enten notater er skrevet i hånden, dikteret til en menneskelig skribent eller genereret af en AI-assistent.

I en europæisk klinisk sammenhæng er AI-dokumentationsværktøjer, der opfylder definitionen af medicinsk udstyr, underlagt MDR, som fastlægger krav til sikkerhed, ydeevne og overvågning efter markedsføring. GDPR regulerer, hvordan patientdata behandles og opbevares, herunder krav om datalokation, der er særligt relevante, når AI-systemer behandler konsultationslyd eller transskriptioner. Styringsrammen publiceret i Healthcare (Basel) om epistemisk autoritet og ansvar i LLM-genererede output bemærkede, at de nuværende rammer efterlader centrale spørgsmål om ansvar uafklarede. Den praktiske og professionelle position er dog klar: klinikeren er ansvarlig for, hvad der står i journalen, og det er præcis derfor, korrekturtrinnet ikke er valgfrit.

En kommentar fra RAND om AI-genererede journalnotater bemærkede, at op til 30 procent af lægepraksisser har taget AI-dokumentationsværktøjer i brug, og pegede på kendte risici som bias, hallucinationer og dårlige træningsdata som faktorer klinikere skal forholde sig til, når de vurderer, hvor meget de kan stole på AI-genererede notater. Professionelt ansvar er det, der sikrer, at disse risici håndteres på behandlingsstedet.

Tillid kommer fra engagement, ikke undgåelse

Tillid til AI-assisterede journalnotater opbygges ikke passivt med tiden. Den opstår gennem aktivt og informeret engagement: at læse notater omhyggeligt, redigere hvor nødvendigt, eskalere når fejlmønstre opstår og opbygge den praktiske viden, der gør korrektur effektiv uden at gøre den overfladisk.

Undersøgelsen i JAMA Network Open fandt, at de klinikere, der engagerede sig aktivt i korrekturprocessen, rapporterede større tillid til outputtet over tid. Tillid er med andre ord et resultat af omhyggelig brug, ikke en forudsætning for den. Dokumentationsbyrden, som AI-værktøjer er designet til at reducere, er reel, og evidensen for, at de kan reducere den, vokser. Klinikerens rolle er ikke blevet elimineret, men forandret, og at engagere sig bevidst i den forandring kræver en aktiv tilgang til korrektur, eskalering og løbende kalibrering af tilliden til det specifikke værktøj i den specifikke kliniske kontekst.

Ofte stillede spørgsmål

▶ Hvorfor føler klinikere sig usikre på AI-genererede journalnotater, selv når notaterne ser nøjagtige ud?

Usikkerheden opstår, fordi rollen skifter fra forfatter til korrekturlæser. Manuel skrivning tvinger aktiv erindring og bevidste sprogvalg, og det skaber en løbende verifikation undervejs. Når AI genererer notatet, forsvinder den proces, og klinikeren mister den kognitive kvittering for, at journalen stemmer med det, der faktisk skete.

▶ Hvad er forskellen mellem at stole på et AI-dokumentationsværktøj og at stole på et specifikt notat, det producerer?

Tillid til værktøjet afgøres primært på organisations- og indkøbsniveau ved at vurdere MDR-overholdelse og GDPR-krav. Tillid til et specifikt notat afgøres konsultation for konsultation af den kliniker, der underskriver det. Kun den anden form beskytter den enkelte patient direkte.

▶ Hvordan ser et godt AI-genereret journalnotat faktisk ud?

En fagfællebedømt undersøgelse fra 2025 i Frontiers in Artificial Intelligence fandt, at AI-notater scorer højere på grundighed og organisation end lægenotater, mens lægenotater scorer højere på nøjagtighed og intern konsistens. Det betyder, at et AI-notat godt kan være fyldigt og velstruktureret og stadig indeholde præcisionsfejl, som klinikeren skal fange ved korrektur.

▶ Hvordan kan klinikere opbygge en korrekturvane, der genopretter en følelse af ejerskab over AI-genererede notater?

Læs notatet grundigt, verificer medicin og undersøgelsesresultater, og foretag redigeringer aktivt. Over tid skifter processen fra at føles som kvalitetskontrol af andres arbejde til at føles som den afsluttende fase af klinikerens egen dokumentation. En oversigtsartikel i PMC fra december 2024 identificerede klinikerautonomi som en af tre søjler for tillid til AI-dokumentationsværktøjer, og en aktiv korrekturvane understøtter netop det.

▶ Forbedres tilliden til en AI-dokumentationsassistent med gentagen brug?

En hurtig gennemgang i JMIR AI fra 2025 konkluderede, at evidensgrundlaget for digitale skriveassistenter stadig er spinkelt, så tilliden bør forblive lydhør over for ny forskning. Det praktiske udbytte af erfaring er mønstergenkendelse: klinikeren lærer, hvilke konsultationstyper der kræver grundigere korrektur, og kan tilpasse indsatsen derefter.

▶ Hvilken rolle spiller teamkultur i at opbygge tillid til AI-assisteret dokumentation?

Delte erfaringer i et team afgør, om en kliniker fortolker sin egen usikkerhed som en forudsigelig tilpasningsfase eller som et personligt nederlag. Når senioreklinikere åbent redigerer og diskuterer AI-genererede notater, signalerer de, at aktivt engagement med outputtet er en professionel forventning, og det sætter standarden for hele afdelingen.

▶ Hvornår skal en kliniker eskalere bekymringer om AI-genereret notatkvalitet?

Eskalering er relevant ved mønstre, ikke enkeltfejl. Det gælder gentagne faktuelle unøjagtigheder af samme type, konsekvent udeladelse af en kategori af klinisk information, output der ser ud til at tilhøre en anden konsultation, og tilfælde hvor et unøjagtigt notat nåede ind i journalsystemet og fik kliniske konsekvenser. NEJM AI beskriver hallucinationer som en strukturel risiko, og leverandøren skal orienteres, når en kliniker støder på dem.

▶ Hvem er juridisk og professionelt ansvarlig for indholdet af et AI-genereret journalnotat?

Den kliniker, der underskriver notatet, bærer det fulde ansvar, uanset hvordan det blev til. En styringsramme publiceret i Healthcare (Basel) i 2026 bemærkede, at centrale ansvarsforhold i de nuværende rammer stadig er uafklarede, men den praktiske konsekvens er klar: ansvaret hviler hos den underskrivende kliniker, og det er præcis grunden til, at korrektur er obligatorisk.

▶ Hvad er tegnene på, at en kliniker har udviklet et sundt, modent forhold til sin AI-dokumentationsassistent?

Korrektur føles som en afsluttende fase af klinikerens egen dokumentationsproces, og redigeringerne er typisk få og præcise. Klinikeren ved, hvilke konsultationstyper der kræver ekstra opmærksomhed, og at underskrive et notat opleves som en reel professionel godkendelse. Individuelle oplevelser varierer afhængigt af speciale og værktøjskonfiguration.

Get started with Tandem today

Join thousands of clinicians enjoying stress-free documentation.

Get started with Tandem today

Join thousands of clinicians enjoying stress-free documentation.

Get started with Tandem today

Join thousands of clinicians enjoying stress-free documentation.