AI kan inte ersätta vårt kliniska omdöme (än) - men det kan förstärka oss som kliniker

‍Den här artikeln är en del av vår serie The Clinician's Perspective, där vi utforskar skärningspunkten mellan AI och hälso- och sjukvård genom vårt teams ögon - före detta kliniker som förstår patientvårdens verklighet.

AI kan inte ersätta vårt kliniska omdöme (än) - men det kan förstärka oss som kliniker

Många av oss läkare har tröttnat på digitaliseringens tomma, verklighetsfrånvända löften. Komplexa digitala system, brist på integration i våra journalsystem och en ökad byråkratisering av vården har försämrat vår arbetsmiljö. Men tänk om digitaliseringen faktiskt kunde frigöra oss så att vi kan göra det vi är bäst på – att vara läkare för våra patienter.

Läkaryrket handlar om att hantera "brasklappar"

I min doktorsavhandling Visits in the Digital Era of Swedish Primary Care belyste jag begränsningarna med att använda automatiserade anamneser för AI-baserad triagering. Vår senaste studie som publicerades i BMJ visade att mänskliga läkare fortfarande överträffar AI (GPT-4) när fallen inte är enkla flervalsfrågor. En nyligen publicerad studie i JAMA visade samtidigt att användning av AI-assistenter var förknippat med högre effektivitet, lägre mental belastning och en större känsla av engagemang i patienterna. Värdet i vården uppstår i mötet mellan patienten och läkaren, genom att bygga relationer och genom vår förmåga att agera på nyanser och anpassa oss till individuella patientbehov.

Visst finns det bevis som tyder på att enkla fall, som okomplicerade urinvägsinfektioner, kan "automatiseras" med hjälp av enkla frågeformulär. Men i de flesta kliniska situationer är vårt professionella omdöme avgörande för att säkerställa rätt diagnos och behandling.

Kärnan i allmänmedicin – och kliniskt arbete som helhet – är att hantera alla de "brasklappar" som uppstår i nästan varje kliniskt möte. Det finns alltid unika faktorer som hindrar oss från att följa ett strikt, förutbestämt protokoll. AI kan vara ett värdefullt verktyg före och efter det att vi använder vårt kliniska omdöme, men det kan inte ersätta det. När omständigheterna förändras måste vi omvärdera och anpassa vården till patientens specifika behov.

Forskningsgruppen PETRA håller AI i schack för primärvården

Eftersom många otillfredsställande digitala lösningar hävdar att de "använder AI" är det lätt att utveckla en cynism mot all AI, men här bör vi vara medvetna om att den nya generationens AI – stora språkmodeller som ChatGPT – har överraskat världen med sina oväntade förmågor. För att se till att vi som kliniker sitter i förarsätet när AI integreras i vården var jag med och grundade forskningsgruppen PETRA (Primary care Emergent Technology Research and Advancement Group) tillsammans med andra kliniskt verksamma kollegor.

Inom kort kommer vi att publicera två systematiska översiktsartiklar om patienternas och vårdpersonalens synpunkter på AI inom primärvården. Än så länge har vi inte hittat något AI-system som helt kan ersätta den kliniska bedömningen. Vi ser dock betydande framsteg när det gäller AI:s förmåga att stödja beslutsfattandet.

Omdömet har många aspekter

Det är viktigt att notera att "kliniskt omdöme" inte är en enda färdighet. Det har flera komponenter, och AI har nyligen börjat navigera i dessa. Det är osäkert hur lång tid det kommer att ta för AI att matcha det mänskliga omdömet. Hittills har AI visat styrkor inom de områden som Daniel Kahneman beskriver som System 1-tänkande —snabba, instinktiva och oprecisa tankar. De senaste AI-modellerna, som GPT-4 och den nyligen lanserade GPT-o1, börjar dock visa kapacitet inom System 2-tänkande —långsamt, överlagt och analytiskt resonemang.

Där AI fortfarande brister idag handlar främst om kontextuell förståelse – att veta när ytterligare information behöver inhämtas för att fatta ett välgrundat beslut. Innan AI på ett tillförlitligt sätt kan tolka det kliniska sammanhanget bör det inte ersätta uppgifter som kräver omdöme och helhetstänkande.

Och även om tekniken utvecklas kommer det alltid att finnas en efterfrågan på mänsklig kontakt. Patienter må ha tillgång till all medicinsk information de behöver på nätet, men de vill ändå höra ett utlåtande från en människa de litar på. Ingen vill få ett cancerbseked från en chatbot.

Återfå tid med patienterna

Som läkare känner vi alla igen ögonblicket i slutet av en konsultation när en patient tar upp "en sak till". Den där

Digitalisering ska stödja, inte ersätta

Parallellt med mitt arbete som allmänläkare insåg jag att det är värt att engagera sig i att hjälpa till att bygga digitala lösningar som löser verkliga kliniska problem inom hälso- och sjukvården. Ett av de verktyg vi har utvecklat transkriberar kliniska samtal och genererar automatiskt utkast till anteckningar, remisser och intyg – som en personlig digital assistent.

Genom att automatisera dessa dokumentationstunga uppgifter kan vi frigöra tid för det som är viktigast: det kliniska mötet. Här hjälper AI till efter att vårt professionella omdöme har tillämpats, och när resonemangsförmågan har mognat kan vi snart låta AI hjälpa oss före och under patientmötet.

Framtidens hälso- och sjukvård: Att skydda den mänskliga faktorn

AI kan ännu inte ersätta det kliniska omdömet. Och ännu viktigare, det kommer alltid att finnas ett genuint behov av mänsklig interaktion inom vården. När vi använder AI inom sjukvården måste vi se till att vi gör det på ett sätt som förbättrar, snarare än försämrar, vår närvaro hos patienterna.

I slutet av en konsultation, när jag ser en patient i ögonen, sammanfattar vår plan och ber patienten upprepa den för mig – samtidigt som jag ser att journalanteckningen genereras på datorn – känner jag äntligen en känsla av optimism inför primärvårdens framtid.

Detta inlägg är en bearbetad version av min ursprungliga artikel i SFAM:s tidskrift Allmänmedicin.

Om Dr. Artin Entezarjou

Dr. Artin Entezarjou, Medical Operations på Tandem Health, är specialistläkare med över tio års erfarenhet av akutmedicin, primärvård och förebyggande medicin. Han har en doktorsexamen i tillämpad artificiell intelligens och telemedicin och har varit med och grundat initiativ som främjar evidensbaserad utbildning och AI inom hälso- och sjukvården. Nu fokuserar Artin på att bygga skalbara AI-verktyg med Tandem Health och fortsätter att arbeta kliniskt för att säkerställa att tekniken löser rätt problem.

Om du vill diskutera AI:s roll i patientvården får du gärna kontakta Artin på LinkedIn.

Oliver Åstrand
Som Tandems CTO och medgrundare leder Oliver våra AI- och teknikinsatser med ett skarpt fokus på att förbättra kapaciteten hos vår ambienta skribent.
Läs mer