KI kann unser ärztliches Urteilsvermögen (noch) nicht ersetzen - aber sie kann uns als Ärzt:innen dennoch unterstützen

Dieser Artikel ist Teil unserer Serie "The Clinician's Perspective", in der wir das Zusammenspiel von KI und Gesundheitswesen aus der Sicht unseres Teams beleuchten – ehemalige Ärzt:innen und Therapeut:innen, die die Realität der Patientenversorgung aus erster Hand kennen.

KI kann unser ärztliches Urteilsvermögen (noch) nicht ersetzen - aber sie kann uns als Ärzt:innen dennoch unterstützen

Viele von uns Ärzt:innen sind der leeren, unnahbaren Versprechen der Digitalisierung überdrüssig geworden. Komplexe digitale Systeme, nicht integrierte Lösungen und zunehmender Verwaltungsaufwand haben unsere Arbeitsbelastung oft noch verschlimmert. Aber was wäre, wenn die Digitalisierung uns tatsächlich die Möglichkeit gäbe, das zu tun, was wir am besten können - Ärzt:innen für unsere Patient:innen zu sein?

In der Medizin geht es um die Bewältigung der "Vorbehalte".

In meiner Dissertation, Visits in the Digital Era of Swedish Primary Care, habe ich die Grenzen der Verwendung von automatisierten Krankengeschichten für die KI-gesteuerte Triage aufgezeigt. Unsere kürzlich im BMJ veröffentlichte Studie fand heraus, dass menschliche Ärzt:innen die KI (GPT-4) immer noch übertreffen, wenn es sich nicht um einfache Multiple-Choice-Fragen handelt. Zur gleichen Zeit fand eine kürzlich im JAMA veröffentlichte Studie heraus, dass der Einsatz von KI-basierten Medical Scribes mit größerer Effizienz, geringerer psychischer Belastung und einem stärkeren Gefühl der Verbundenheit mit den Patient:innen einher ging. Der Wert der Gesundheitsversorgung entsteht in der Begegnung zwischen Patient:in und Ärzt:in - durch den Aufbau von Beziehungen und durch unsere Fähigkeit, auf Nuancen einzugehen und uns an die individuellen Bedürfnisse der Patient:innen anzupassen.

Sicher, es gibt Hinweise darauf, dass einfache Fälle, wie unkomplizierte Harnwegsinfektionen, mit Hilfe einfacher Fragebögen "automatisiert" werden können. Aber in den meisten Situationen ist unser fachliches Urteilsvermögen unerlässlich, um die richtige Diagnose und Behandlung zu gewährleisten.

Das Herzstück der Allgemeinmedizin - und der Medizin insgesamt - ist der Umgang mit all den Ausnahmen und Besonderheiten, die bei fast jeder medizinischen Interaktion auftreten. Es gibt immer einzigartige Faktoren, die uns daran hindern, einem starren, vorgegebenen Protokoll zu folgen. KI kann ein wertvolles Werkzeug sein, bevor und nachdem wir unser medizinisches Urteilsvermögen anwenden, aber sie kann es nicht ersetzen. Wenn sich die Umstände ändern, müssen wir die Versorgung neu bewerten und an die spezifischen Bedürfnisse des Patient:innen anpassen.

Die PETRA-Forschungsgruppe: KI für die Primärversorgung im Griff

Da viele enttäuschende digitale Lösungen behaupten, "KI zu nutzen", ist es leicht, einen Zynismus gegenüber jeglicher KI zu entwickeln, aber hier sollten wir uns bewusst sein, dass die neue Generation der KI - große Sprachmodelle wie ChatGPT - die Welt mit ihren unerwarteten Fähigkeiten überrascht hat. Um sicherzustellen, dass wir als Allgemeinmediziner bei der Integration von KI in das Gesundheitswesen mit am Tisch sitzen, habe ich zusammen mit anderen Allgemeinmedizinern die PETRA-Forschungsgruppe mitbegründet (Primary care Emergent Technology Research and Advancement).

In Kürze werden wir zwei systematische Übersichtsartikel und eine Studie veröffentlichen, in der wir große Sprachmodelle auf ihre Fähigkeit hin testen, komplexe Fälle in der Primärversorgung zu beurteilen. Bislang haben wir noch kein KI-System gefunden, das die medizinische Beurteilung vollständig ersetzen kann. Wir sehen jedoch erhebliche Fortschritte bei der Fähigkeit der KI, die Entscheidungsfindung zu unterstützen.

Urteilsvermögen hat viele Ebenen

Es ist wichtig festzuhalten, dass "medizinisches Urteilsvermögen" keine einzelne Fähigkeit ist - es hat mehrere Komponenten, und die KI fängt gerade erst an, sich darin zurechtzufinden. Es ist ungewiss, wie lange es dauern wird, bis die KI mit dem menschlichen Urteilsvermögen mithalten kann. Bislang hat die KI ihre Stärken in Bereichen gezeigt, die Daniel Kahneman beschreibt als System 1 Denken - schnell, instinktiv und unpräzise. Die neuesten KI-Modelle, wie das GPT-4 und das neu erschienene GPT-o1, beginnen jedoch, Fähigkeiten zu zeigen in System-2-Denken - langsames, überlegtes und analytisches Denken.

Wo KI noch Schwierigkeiten hat, ist das kontextuelle Verständnis - das Wissen, wann zusätzliche Informationen erforderlich sind, um eine fundierte Entscheidung zu treffen. Solange KI den medizinischen Kontext nicht zuverlässig interpretieren kann, sollte sie Aufgaben, die Urteilsvermögen und ganzheitliches Denken erfordern, nicht ersetzen.

Und selbst wenn sich die Technologie weiterentwickelt, wird es immer eine Nachfrage nach menschlichen Kontakten geben. Die Patient:innen haben vielleicht Zugang zu allen medizinischen Informationen, die sie online benötigen, aber sie wollen trotzdem die Diagnose von einem Menschen hören, dem sie vertrauen. Niemand möchte eine Krebsdiagnose von einem Chatbot erhalten.

Zeit für Patient:innen zurückgewinnen

Als Ärzte kennen wir alle den Moment am Ende einer Konsultation, wenn ein Patient "noch eine Sache" anspricht. Thee

Die Digitalisierung sollte unterstützen, nicht ersetzen

Neben meiner Arbeit als Allgemeinmediziner habe ich erkannt, dass es sich lohnt, an der Entwicklung digitaler Lösungen für echte Probleme in der Primärversorgung mitzuwirken. Eines der Tools, die wir entwickelt haben, transkribiert medizinische Gespräche und erstellt automatisch Entwürfe für medizinische Notizen, Überweisungen und ärztliche Bescheinigungen - wie ein digitaler persönlicher Assistent für Ärzt:innen.

Durch die Automatisierung dieser dokumentationsintensiven Aufgaben gewinnen wir Zeit für das, was am wichtigsten ist: die Begegnung mit den Patient:innen. Hier hilft uns die KI, nachdem wir unser fachliches Urteilsvermögen angewandt haben. Sobald deren Fähigkeiten noch weiter ausgereift sind, können wir uns schon bald auch vor und während des Patientengesprächs von der KI unterstützen lassen.

Die Zukunft des Gesundheitswesens: Der Schutz des Faktors Mensch

KI kann das medizinische Urteilsvermögen noch nicht ersetzen. Und was noch wichtiger ist: Es wird immer einen echten Bedarf an menschlicher Interaktion im Gesundheitswesen geben. Wenn wir KI im Gesundheitswesen einsetzen, sollten wir sicherstellen, dass wir dies auf eine Art und Weise tun, die unsere Präsenz bei den Patient:innen verbessert, anstatt sie zu verringern.

Wenn ich am Ende einer Konsultation einem Patienten oder einer Patientin in die Augen schaue, unseren Plan zusammenfasse und ihn oder sie bitte, ihn mir zu wiederholen - und dabei sehe, wie der Arztbrief nahtlos erstellt wird -, dann verspüre ich endlich ein Gefühl des Optimismus, was die Zukunft der Primärversorgung angeht.

Dieser Beitrag ist eine angepasste Version meines ursprünglichen Artikels in SFAM's journal Allmänmedicin.

Über Dr. Artin Entezarjou

Dr. Artin Entezarjou, Medical Operations bei Tandem Health, ist Facharzt mit mehr als einem Jahrzehnt Erfahrung in den Bereichen Notfallmedizin, Primärversorgung und Präventivmedizin. Er hat einen Doktortitel in angewandter künstlicher Intelligenz und Telemedizin und war Mitbegründer von Initiativen, die evidenzbasierte Schulungen und KI im Gesundheitswesen vorantreiben. Artin konzentriert sich jetzt auf die Entwicklung skalierbarer KI-Tools mit Tandem Health und praktiziert weiterhin, um sicherzustellen, dass die Technologie die richtigen Probleme löst.

Wenn Sie über die Rolle der KI in der Patientenversorgung sprechen möchten, wenden Sie sich bitte an Artin auf LinkedIn.

Oliver Åstrand
Als CTO und Mitbegründer von Tandem leitet Oliver unsere KI- und Technologiebemühungen mit dem Schwerpunkt auf der Weiterentwicklung der Fähigkeiten unseres Ambient Scribe.
Mehr lesen