‍Denne artikel er en del af vores serie, The Clinician's Perspective, hvor vi udforsker krydsfeltet mellem AI og sundhedspleje gennem vores teams øjne - tidligere klinikere, der forstår realiteterne i patientplejen på første hånd.

AI kan ikke erstatte vores kliniske dømmekraft (endnu) - men den kan stadig supplere os som klinikere

Mange af os klinikere er blevet trætte af digitaliseringens tomme og uigennemskuelige løfter. Komplekse digitale systemer, uintegrerede løsninger og stigende administrative byrder har ofte forværret vores arbejdsbyrde. Men hvad nu, hvis digitaliseringen faktisk kunne frigøre os til at gøre

Medicin handler om at håndtere "forbehold"

I min afhandling, Besøg i den digitale æra i den svenske primærsektor, Jeg fremhævede begrænsningerne ved at bruge automatiserede sygehistorier til AI-drevet triage. Vores nylige undersøgelse offentliggjort i BMJ fandt, at menneskelige læger stadig klarer sig bedre end AI (GPT-4), når sagerne ikke er simple multiple choice-spørgsmål. På samme tid, en nylig undersøgelse i JAMA fandt, at brugen af AI-skrivere var forbundet med større effektivitet, mindre mental belastning og en større følelse af engagement med patienterne. Værdien i sundhedsvæsenet opstår i mødet mellem patienten og klinikeren - gennem relationsopbygning og gennem vores evne til at reagere på nuancer og tilpasse os den enkelte patients behov.

Selvfølgelig er der noget, der tyder på, at simple tilfælde som f.eks. ukomplicerede urinvejsinfektioner kan "automatiseres" ved hjælp af simple spørgeskemaer. Men i de fleste kliniske situationer er vores professionelle dømmekraft afgørende for at sikre den rette diagnose og behandling.

Kernen i almen praksis - og i medicin i det hele taget - er at håndtere alle de "forbehold", der opstår i næsten alle kliniske møder. Der er altid unikke faktorer, som forhindrer os i at følge en rigid, forudbestemt protokol. AI kan være et værdifuldt værktøj før og efter, at vi anvender vores kliniske dømmekraft, men det kan ikke erstatte den. Når omstændighederne ændrer sig, er vi nødt til at revurdere og tilpasse plejen til patientens specifikke behov.

PETRA-forskningsgruppen: At holde styr på AI i primærsektoren

Da mange skuffende digitale løsninger hævder at "bruge AI", er det let at udvikle en kynisme over for al AI, men her skal vi være opmærksomme på, at den nye generation af AI - store sprogmodeller som ChatGPT - har overrasket verden med deres uventede evner. For at sikre, at vi som praktiserende læger har en plads ved bordet i integrationen af AI i sundhedsvæsenet, var jeg med til at grundlægge forskningsgruppen PETRA (Forskning og udvikling af ny teknologi i primærsektoren) sammen med andre praktiserende læger.

Snart udgiver vi to systematiske oversigtsartikler og en undersøgelse, hvor vi stresstester store sprogmodeller i forhold til deres evne til at vurdere komplekse sager i primærsektoren. Indtil videre har vi ikke fundet et AI-system, der er i stand til fuldt ud at erstatte den kliniske vurdering. Men vi ser betydelige fremskridt i AI's evne til at understøtte beslutningstagning.

Dommen har mange lag

Det er vigtigt at bemærke, at "klinisk dømmekraft" ikke er en enkelt færdighed - den har flere komponenter, og AI er kun lige begyndt at navigere i dem. Det er usikkert, hvor lang tid det vil tage for AI at matche den menneskelige dømmekraft. Indtil videre har AI vist styrker inden for hvad Daniel Kahneman beskriver som System 1-tænkning - hurtig, instinktiv og upræcis. Men de nyeste AI-modeller, såsom GPT-4 og den nyligt udgivne GPT-o1, begynder at vise evner inden for System 2-tænkning - langsom, velovervejet og analytisk tænkning.

Der, hvor AI stadig kæmper, er i den kontekstuelle forståelse - at vide, hvornår der er brug for yderligere information for at træffe en fuldt informeret beslutning. Indtil AI kan fortolke klinisk kontekst på en pålidelig måde, bør den ikke erstatte opgaver, der kræver dømmekraft og holistisk tænkning.

Og selv om teknologien udvikler sig, vil der altid være en efterspørgsel efter menneskelig kontakt. Patienter har måske adgang til alle de medicinske oplysninger, de har brug for, online, men de vil stadig gerne høre en dom fra et menneske, de stoler på. Ingen ønsker at modtage en kræftdiagnose fra en chatbot.

Genvinde tid med patienterne

Som klinikere genkender vi alle øjeblikket i slutningen af en konsultation.

Digitalisering skal understøtte, ikke erstatte

Sideløbende med mit arbejde som praktiserende læge indså jeg, at det at hjælpe med at opbygge digitale løsninger, der løser reelle kliniske problemer i primærsektoren, er et formål, der er værd at engagere sig i. Et af de værktøjer, vi har udviklet, transskriberer kliniske samtaler og genererer automatisk udkast til konsultationsnotater, henvisninger og lægeerklæringer - som en digital personlig assistent for læger.

Ved at automatisere disse dokumentationstunge opgaver kan vi frigøre tid til det, der betyder mest: det kliniske møde. Her hjælper den kunstige intelligens, efter at vores professionelle dømmekraft er blevet anvendt, og når ræsonnementsevnen er modnet, kan vi snart lade den kunstige intelligens hjælpe os før og under mødet med patienten.

Fremtidens sundhedsvæsen: Beskyttelse af det menneskelige element

AI kan endnu ikke erstatte klinisk dømmekraft. Og endnu vigtigere - der vil altid være et reelt behov for menneskelig interaktion i sundhedsvæsenet. Når vi implementerer AI i sundhedsvæsenet, skal vi sørge for at gøre det på en måde, der forbedrer, snarere end forringer, vores tilstedeværelse hos patienterne.

I slutningen af en konsultation, når jeg ser en patient i øjnene, opsummerer vores plan og beder dem om at gentage den for mig - alt imens jeg ser det medicinske notat blive genereret uden problemer - føler jeg endelig en følelse af optimisme med hensyn til fremtiden for den primære sundhedspleje.

Dette indlæg er en tilpasset version af min oprindelige artikel i SFAM's tidsskrift Allmänmedicin.

Om Dr. Artin Entezarjou

Dr. Artin Entezarjou, Medical Operations hos Tandem Health, er speciallæge med over ti års erfaring inden for akutmedicin, primærpleje og forebyggende medicin. Han har en ph.d. i anvendt kunstig intelligens og telemedicin og har været med til at grundlægge initiativer, der fremmer evidensbaseret uddannelse og kunstig intelligens i sundhedsvæsenet. Nu fokuserer han på at opbygge skalerbare AI-værktøjer med Tandem Health, og Artin fortsætter med at praktisere klinisk for at sikre, at teknologien løser de rigtige problemer.
‍
Hvis du gerne vil diskutere AI's rolle i patientbehandlingen, er du velkommen til at kontakte Artin på LinkedIn.