ChatGPT i klinisk beslutningsstøtte: muligheder og begrænsninger

ChatGPT og lignende store sprogmodeller bruges allerede uformelt i kliniske arbejdsgange, men valideringen til beslutninger med stor betydning er begrænset og ujævn. At forstå, hvor de hjælper, hvor de fejler, og hvilke styringsrammer der bør omgive brugen af dem, er en praktisk nødvendighed for alle, der arbejder i sundhedsvæsenet.

Hvad klinisk beslutningsstøtte betyder i 2026

Klinisk beslutningsstøtte er ikke én teknologi, men et spektrum. I den ene ende finder vi passive, regelbaserede advarsler: et receptsystem, der markerer en kontraindiceret lægemiddelkombination, eller en påmindelse om, at en patient er forsinket til en cervixudstrygning. I den anden ende er der aktive, AI-drevne værktøjer, der fortolker ustrukturerede kliniske data, genererer differentialdiagnoser eller anbefaler behandlingsforløb i realtid.

Den skelnen er vigtig for risikostratificering. En regelbaseret advarsel, der udløses forkert, er irriterende og kan bidrage til advarselstræthed. En stor sprogmodel, der selvsikkert genererer en plausibel men forkert differentialdiagnose i et komplekst tilfælde, kan føre til patientskade. ChatGPT og lignende værktøjer indtager en særlig position i dette spektrum: de er ekstraordinært dygtige til sprogopgaver, men de er hverken designet, trænet eller valideret som medicinsk udstyr.

Hvordan store sprogmodeller adskiller sig fra regelbaserede systemer

Store sprogmodeller genererer tekst ved at forudsige det statistisk mest sandsynlige næste ord eller tegn på baggrund af mønstre lært fra enorme mængder træningsdata. De ræsonnerer ikke som en kliniker. De tilgår ikke en struktureret vidensbase, konsulterer ikke en farmakopé og anvender ikke logiske regler. De genererer svar, der er sprogligt sammenhængende og ofte faktuelt korrekte, fordi præcis information var godt repræsenteret i deres træningsdata.

Et regelbaseret system vil altid markere en specifik lægemiddelinteraktion, hvis logikken er korrekt kodet. En stor sprogmodel vil måske gøre det, eller måske ikke. Det afhænger af, hvordan spørgsmålet er formuleret, hvad der var i dens træningsdata, og den indbyggede sandsynlighedsbaserede variation i dens output. Store sprogmodeller er avancerede mønstermatchende motorer, der producerer sprog, og deres output bør vurderes derefter, ikke som opslagssystemer med et pålideligt indeks.

Hvor evidensen for klinisk nytte er stærkest

En scoping review af 28 studier publiceret i Health Science Reports identificerede klinisk beslutningsstøtte og medicinsk uddannelse som de oftest nævnte fordele ved ChatGPT i sundhedsvæsenet. Evidensen er stærkest på tre områder.

Klinisk dokumentation er det område, hvor gevinsterne er tydeligst. En syntese publiceret i Frontiers in Artificial Intelligence fandt 40–70 procent tidsbesparelser i kliniske dokumentationsopgaver, når store sprogmodeller hjalp med notatgenerering og opsummering. Det er en størrelse, der er svær at ignorere, og som i modsætning til mange andre fundne fordele er understøttet af konsistente resultater på tværs af studier.

Støtte til ikke-specialister er et andet lovende område. Et studie fra juni 2026 i NPJ Digital Medicine evaluerede ChatGPT-4o på 100 virkelige polyneuropati-tilfælde og fandt, at modellen opnåede 65,5 procent nøjagtighed i førende diagnoser, sammenligneligt med ikke-specialist-neurologer (63,0 procent), men lavere end specialister (74,0 procent). Mere interessant er det, at ikke-specialister ændrede deres vurderinger i 21,8 procent af tilfældene efter at have gennemgået ChatGPT-4o's forslag og derved forbedrede deres nøjagtighed. Modellen klarede sig desuden bedre end ikke-specialister på differentialdiagnoser og anbefalede mere relevante bekræftende tests.

Det tredje område er patientkommunikation og litteratursyntese. Store sprogmodeller viser målbar nytte i udarbejdelse af patientbreve, forklaring af diagnoser på letforståeligt sprog og fremskyndelse af evidensgennemgange, selvom output kræver verificering. En systematisk gennemgang af store sprogmodeller på tværs af kolorektal cancer-behandlingsforløbet, publiceret i Journal of Medical Internet Research i maj 2026, fandt tilsvarende nytte i automatisering af dataudtræk og støtte til patientuddannelse.

Nøjagtighedsproblemet: hallucinationer, kalibrering og inkonsistens

Den mest klinisk betydningsfulde begrænsning ved store sprogmodeller er hallucination, det vil sige generering af overbevisende men faktuelt forkerte informationer. En analyse fra november 2025 af hallucinationsrisici ved store sprogmodeller i sundhedsvæsenet fandt, at hallucinerede output, der fremstår troværdige, kan lede klinikere mod skadelige interventioner. Risikoen er særlig stor, når det forkerte output passer med klinikernes eksisterende mistanke, så modellen bekræfter, hvad de allerede tror, og fejlen forbliver uopdaget.

Hallucinationsproblemet forværres af fejl i tillidskalibrering. En omfattende evaluering af fire store sprogmodeller på komplekse reumatologiske tilfælde, publiceret i Health Informatics Journal i april 2026, afslørede ensartet svage og ikke-signifikante sammenhænge mellem ræsonnementskvalitet og udtrykt sikkerhed på tværs af alle modeller. Modellerne udtrykte lignende tillid uanset ræsonnementets kvalitet. ChatGPT havde den laveste hallucinationsrate af de fire testede modeller (7,4 procent mod Geminis 18,5 procent), men selv 7,4 procent udgør en reel risiko i en klinisk sammenhæng.

Tre yderligere nøjagtighedsbegrænsninger fortjener opmærksomhed. Store sprogmodeller afspejler ikke kliniske retningslinjer, lægemiddelgodkendelser eller sikkerhedsadvarsler udstedt efter deres træningscutoff, medmindre modellen har adgang til løbende opdateringer. ChatGPT's pålidelighed faldt markant i kardiovaskulære tilfælde med komorbiditeter i et simuleringsbaseret studie publiceret i Healthcare (MDPI) i juli 2025, præcis den patientgruppe, der oftest ses i det specialiserede sundhedsvæsen. Et europæisk studie publiceret i Clinical Pharmacology & Therapeutics i februar 2025 fandt desuden, at ChatGPT gav forskellige svar i 90 procent af tilfældene, når den samme forespørgsel om lægemiddelinteraktion blev gentaget, og missede klinisk relevante interaktioner. Studiet konkluderede, at ChatGPT ikke i øjeblikket kan anbefales til dette formål.

Patientsikkerhedsrisici klinikere ikke bør overse

Automatiseringsbias er tendensen til, at klinikere følger et AI-genereret forslag, selv når deres egen kliniske vurdering ville have ført til en anden og potentielt mere præcis konklusion. Denne risiko er veldokumenteret i litteraturen om menneskelige faktorer og er direkte relevant for brugen af store sprogmodeller i kliniske sammenhænge. Den forværres netop af den fejlkalibrering, der er beskrevet ovenfor.

Mindst lige så bekymrende er præstationen i sekventiel beslutningstagning. AgentClinic-benchmark, publiceret i NPJ Digital Medicine i april 2026, fandt, at diagnostisk nøjagtighed i sekventielle, interaktive kliniske scenarier kan falde til under en tiendedel af nøjagtigheden på tilsvarende statiske spørgsmål. Reelle kliniske møder er sekventielle og dynamiske, mens de fleste benchmark-evalueringer er designet som statiske enkeltspørgsmål. Det er et metodologisk problem, der systematisk overvurderer modellernes kliniske anvendelighed.

Sjældne diagnoser udgør en særlig sårbarhed. Store sprogmodeller er trænet på data fra befolkningsniveau, og sjældne tilstande er per definition underrepræsenterede. En model, der klarer sig godt på almindelige præsentationer, kan klare sig dårligt på det atypiske tilfælde, præcis der, hvor behovet for diagnostisk støtte er størst. Et studie, der evaluerede fem store sprogmodeller på 50 multipelt myelom-kliniske scenarier, vurderet af tre uafhængige hæmatolog-onkologer, konkluderede, at behandlingsanbefalinger fra store sprogmodeller kræver omhyggelig klinisk supervision for at sikre patientsikkerhed, selv i en struktureret, onkologispecifik evalueringskontekst.

Regulatorisk status og GDPR: to ansvarsgab klinikere skal kende

Generelle store sprogmodeller som ChatGPT markedsføres ikke med et medicinsk formål. De har derfor ikke CE-mærkning som medicinsk udstyr under EU's forordning om medicinsk udstyr. Når en kliniker bruger forbruger-ChatGPT til at støtte en klinisk beslutning, er der ingen valideret evidensbase, ingen ramme for producentansvar og intet regulatorisk revisionsspor. Det kliniske ansvar hviler udelukkende hos klinikeren.

Hertil kommer en compliancerisiko, som klinikere ofte undervurderer. At indtaste identificerbare patientdata i forbrugervendte store sprogmodelværktøjer rejser betydelige datasikkerheds- og databeskyttelsesbekymringer. Under UK's databeskyttelsesforordning (UK GDPR) og EU's databeskyttelsesforordning (GDPR) er patientdata en særlig kategori af data, og det kræver et eksplicit juridisk grundlag at behandle dem. At indtaste en patients navn, fødselsdato, kliniske historie eller testresultater i et forbruger-sprogmodelværktøj udgør næsten altid behandling af persondata af en tredjepartsdataansvarlig, uden databehandlingsaftale, uden lovligt grundlag og potentielt med datalagring i lande uden for UK eller EU. Virksomhedsaftaler med OpenAI eller tilsvarende udbydere kan omfatte databehandlingsaftaler og forpligtelser til ikke at bruge input til modeltræning, men forbrugervendte værktøjer har ingen af disse beskyttelser som standard.

Klinikere, der bruger ethvert AI-værktøj i en klinisk sammenhæng, bør stille fire spørgsmål: Er der en databehandlingsaftale mellem organisationen og AI-udbyderen? Hvor behandles og opbevares patientdata? Har organisationens informationssikkerhedsteam godkendt værktøjet? Og kan patientdata afidentificeres før input uden at miste klinisk værdi?

Hvad specialbygget klinisk AI faktisk tilbyder, og hvad evidensen siger om det

Forskellen mellem generelle store sprogmodeller og specialbyggede kliniske AI-værktøjer handler om hele den arkitektur, der omgiver implementeringen, ikke kun den underliggende model. Et benchmark-studie publiceret i NPJ Digital Medicine i december 2025 testede seks store sprogmodeller på tværs af 30 målepunkter inden for klinisk beslutningsstøtte og fandt, at domænespecifikke medicinske sprogmodeller viste konsistente præstationsfordele over generelle modeller, med højere topscorer i både sikkerhed (0,912) og effektivitet (0,861). Den samlede præstation på tværs af alle modeller lå i gennemsnit på 57,2 procent og faldt med 13,3 procent i højrisiko-kliniske scenarier.

Specialbyggede kliniske AI-værktøjer, der er designet til regulerede sundhedsmiljøer, tilbyder validerede output testet mod kliniske resultater, revisionsspor der understøtter klinisk styring og ansvarlighed, integration med medicinske registreringssystemer uden manuel genindtastning, og certificering som medicinsk udstyr under relevante regulatoriske rammer. Den underliggende sprogmodel kan være identisk med en generel sprogmodel. Det er styringslaget, valideringsbeviset og det regulatoriske ansvar, der adskiller dem.

Den publicerede evidens om store sprogmodellers præstation vokser hurtigt, men er metodologisk ujævn. Benchmark-resultater fra medicinske licenseksamener udgør det svageste grundlag for at vurdere klinisk anvendelighed: store sprogmodeller har opnået scores i 80–90 procent-området på eksamener såsom USMLE, men disse eksamener tester genkaldelse og struktureret ræsonnement på veldefinerede problemer og afspejler ikke den tvetydighed, det tidspres og den sekventielle beslutningstagning, der kendetegner reelle kliniske møder. Den systematiske gennemgang af store sprogmodeller i kolorektal cancer-behandling fandt, at kun 27 procent af de inkluderede studier havde lav risiko for bias, og en ekspertkonsensus fra 2025 identificerede mangel på ensartede evalueringsmetoder som en væsentlig barriere for sikker implementering. En kommentar i JAMIA fra januar 2025 noterede, at centrale begrænsninger og områder for fremtidig forskning stadig er uafklarede.

Passende brug versus upassende afhængighed: en ramme for klinikere

Evidensen peger på en nuanceret tilgang. ChatGPT og lignende store sprogmodeller kan reducere dokumentationsbyrden, hjælpe ikke-specialistklinikere med at generere differentialdiagnoser og gøre klinisk kommunikation mere tilgængelig. Det er reelle og målbare fordele. Hvad evidensen ikke understøtter, er autonom klinisk beslutningstagning med store sprogmodeller eller brug af generelle forbrugerværktøjer som erstatning for validerede kliniske beslutningsstøttesystemer i højrisikokontekster. Et studie i Annals of Biomedical Engineering om ChatGPT i klinisk beslutningsstøtte konkluderede, at eksperttilsyn fra klinikere forbliver nødvendigt på tværs af alle anvendelser, en konklusion, der går igen konsekvent i litteraturen.

Grænsen er ikke altid tydelig i praksis, men tre markører er nyttige. Lavrisiko-, højvolumenopgaver som dokumentationsassistance, udarbejdelse af patientbreve og litteraturopsummering giver størst fordel med mindst risiko, forudsat at kravene til håndtering af patientdata er opfyldt. Højrisiko-diagnostiske eller receptbeslutninger, især i komplekse tilfælde med flere samtidige sygdomme eller sjældne tilstande, kræver validerede, regulerede kliniske beslutningsstøtteværktøjer med klart definerede anvendelsesformål og klinisk tilsyn indbygget i arbejdsgangen. Forbrugerværktøjer uden virksomhedsdataaftaler bør aldrig bruges med identificerbare patientdata, uanset den kliniske opgave.

Klinisk tilsyn er et strukturelt krav givet den nuværende tilstand af nøjagtighed, kalibrering og regulatorisk validering hos store sprogmodeller, ikke en midlertidig sikkerhedsforanstaltning, mens vi venter på bedre AI. ChatGPT-CARE preprint identificerede specifikke begrænsninger ved basis-ChatGPT i kliniske sammenhænge og foreslog in-context learning og chain-of-thought prompting som måder at afbøde disse begrænsninger på. Chain-of-thought prompting er en teknik, der guider modellen trinvist gennem et ræsonnement. Det er en retning for specialbyggede værktøjer snarere end en løsning, der er tilgængelig i forbrugerimplementeringer. Klinikeren forbliver det afgørende kontrolpunkt i enhver AI-assisteret beslutning.

Ofte stillede spørgsmål

▶ Er ChatGPT reguleret medicinsk udstyr til klinisk beslutningsstøtte?

Nej. Fordi ChatGPT markedsføres uden et medicinsk tilsigtet formål, gælder hverken CE-mærkning, producentansvar eller regulatorisk revisionsspor. Det betyder i praksis, at en klinikers brug af værktøjet behandles juridisk på linje med enhver anden personlig beslutning, og at ingen ekstern part bærer del af ansvaret, hvis noget går galt.

▶ Hvilke kliniske opgaver viser den stærkeste evidens for LLM-nytte?

Dokumentationsassistance har den bredeste og mest konsistente evidensbase. Støtte til ikke-specialister ved differentialdiagnoser og patientkommunikation viser også målbar nytte, men evidensen er tyndere og mere afhængig af, at en kliniker verificerer output efterfølgende.

▶ Hvad er hallucination, og hvorfor betyder det noget i kliniske sammenhænge?

En stor sprogmodel genererer overbevisende men faktuelt forkert information. Risikoen forværres af, at modeller udtrykker lignende sikkerhed uanset om svaret er korrekt, så klinikeren får ingen sproglig advarsel om, hvornår output ikke kan stoles på.

▶ Kan ChatGPT pålideligt detektere lægemiddel-lægemiddel-interaktioner?

Nej. Studiet i Clinical Pharmacology and Therapeutics fra februar 2025 viste 90 procent variation ved gentagne identiske forespørgsler. Det praktiske råd er at behandle ChatGPT-svar om interaktioner som et udgangspunkt for manuel verifikation i en godkendt farmakologisk database, aldrig som et endeligt svar.

▶ Hvad er GDPR-risiciene ved at indtaste patientdata i forbruger-LLM-værktøjer?

Forbrugerværktøjer har som udgangspunkt ingen databehandlingsaftale, intet lovligt grundlag for behandling af særlige kategorier af data og ingen garanti for, at data forbliver inden for UK eller EU. Inden et værktøj tages i brug, bør organisationens informationssikkerhedsteam have godkendt det skriftligt.

▶ Hvordan adskiller et specialbygget klinisk AI-værktøj sig fra generel ChatGPT?

Den underliggende sprogmodel kan være identisk. Det, der adskiller specialbyggede værktøjer, er styringslaget: validering mod kliniske resultater, revisionsspor, integration med medicinske registreringssystemer og certificering som medicinsk udstyr. Benchmark-studiet i NPJ Digital Medicine fra december 2025 fandt konsistente præstationsfordele for domænespecifikke modeller over generelle på tværs af 30 målepunkter.

▶ Betyder det, at ChatGPT er sikkert til klinisk beslutningsstøtte, fordi det består medicinske licenseksamener?

Eksamensresultater måler genkaldelse på veldefinerede problemer. Reelle kliniske møder er sekventielle og dynamiske, og AgentClinic-benchmark fra april 2026 viste, at diagnostisk nøjagtighed i interaktive scenarier kan falde til under en tiendedel af nøjagtigheden på tilsvarende statiske spørgsmål. Eksamensscorer overvurderer derfor systematisk klinisk anvendelighed.

▶ Hvad er automatiseringsbias, og hvordan påvirker det klinikere, der bruger AI-værktøjer?

Automatiseringsbias opstår, når et AI-forslag overskriver klinikernes egen vurdering, selv når den ville have været mere præcis. Risikoen er størst i travle arbejdsgange, hvor det er fristende at acceptere et velformuleret svar uden at efterprøve det, og den forværres af, at nuværende modeller ikke signalerer usikkerhed pålideligt.

▶ Hvor bør klinikere trække grænsen mellem passende brug og upassende afhængighed af LLM'er?

Et praktisk udgangspunkt er at spørge, om en fejl i AI-outputtet ville blive opdaget, før det påvirker patienten. Ved dokumentation og patientbreve er svaret typisk ja. Ved diagnostiske beslutninger i komplekse eller sjældne tilfælde er svaret langt mere usikkert, og der bør bruges et valideret, reguleret værktøj med klinisk tilsyn indbygget i arbejdsgangen.