ChatGPT in der klinischen Entscheidungsunterstützung: Möglichkeiten und Grenzen

ChatGPT kann klinische Fragen in natürlicher Sprache verarbeiten, Patientengeschichten zusammenfassen und Differenzialdiagnosen erstellen. Dennoch wird es bereits informell in klinischen Arbeitsabläufen eingesetzt, ohne systematische Validierung für Hochrisikoentscheidungen. Wo helfen große Sprachmodelle wirklich, wo versagen sie, und was müssen Behandelnde wissen?

Klinische Entscheidungsunterstützung 2026: Warum große Sprachmodelle eine Sonderrolle einnehmen

Klinische Entscheidungsunterstützung (KDU) ist kein einzelnes Tool, sondern ein Spektrum. Es reicht von passiven, regelbasierten Warnhinweisen bei kontraindizierten Arzneimittelkombinationen bis zu aktiven, KI-gesteuerten Systemen, die unstrukturierte klinische Daten interpretieren und Behandlungspfade empfehlen. Diese Unterscheidung ist für die Risikoeinschätzung entscheidend. Ein regelbasierter Warnhinweis, der fälschlicherweise ausgelöst wird, ist ärgerlich. Ein großes Sprachmodell, das selbstsicher eine plausible, aber falsche Differenzialdiagnose liefert, kann hingegen zu Patientenschäden beitragen.

ChatGPT und vergleichbare Modelle nehmen in diesem Spektrum eine besondere Position ein, bedingt durch die Art, wie sie funktionieren. Große Sprachmodelle (LLMs) generieren Text, indem sie das statistisch wahrscheinlichste nächste Wortfragment vorhersagen. Sie denken nicht wie ein Mensch im klinischen Kontext, greifen nicht auf eine strukturierte Wissensdatenbank zu und wenden keine logischen Regeln an. Ein regelbasiertes System meldet eine bestimmte Arzneimittelwechselwirkung immer dann zuverlässig, wenn die Logik korrekt hinterlegt ist. Ein LLM kann das tun oder auch nicht, je nach Frageformulierung, Trainingsdaten und der wahrscheinlichkeitsbasierten Variabilität des Modells. Diese Modelle wurden nicht als Medizinprodukte konzipiert, trainiert oder validiert.

Wo die Evidenz für klinischen Nutzen am stärksten ist

Eine Scoping-Review von 28 Studien in Health Science Reports identifizierte klinische Entscheidungsunterstützung und medizinische Ausbildung als die am häufigsten genannten Vorteile von ChatGPT im Gesundheitswesen. Der Bereich mit der stärksten und konsistentesten Evidenz ist die klinische Dokumentation: Eine Synthese in Frontiers in Artificial Intelligence fand 40–70 Prozent Zeitersparnis bei der Erstellung von Notizen und Zusammenfassungen, ein Ergebnis, das sich mit dem deckt, was Behandelnde in der Praxis berichten, und das methodisch am solidesten belegt ist.

Interessanter, weil weniger intuitiv, ist der Befund zur Unterstützung von Nicht-Spezialist:innen. Eine Studie vom Juni 2026 in NPJ Digital Medicine evaluierte ChatGPT-4o an 100 realen Polyneuropathie-Fällen und fand eine Hauptdiagnose-Genauigkeit von 65,5 Prozent, vergleichbar mit nicht spezialisierten Neurolog:innen (63,0 Prozent), aber niedriger als bei Spezialist:innen (74,0 Prozent). Nicht-Spezialist:innen überarbeiteten ihre Beurteilungen in 21,8 Prozent der Fälle nach Sichtung der ChatGPT-Vorschläge und verbesserten dabei ihre Genauigkeit. Bei Differenzialdiagnosen übertraf ChatGPT-4o die Nicht-Spezialist:innen (82,0 gegenüber 77,5 Prozent) und empfahl geeignetere Bestätigungstests (68,0 gegenüber 53,0 Prozent).

LLMs zeigen auch messbaren Nutzen beim Verfassen von Arztbriefen, beim Erklären von Diagnosen in verständlicher Sprache und beim Beschleunigen von Evidenzübersichten, wobei die Ausgaben stets überprüft werden müssen. Eine systematische Übersichtsarbeit zu LLMs in der Darmkrebsversorgung im Journal of Medical Internet Research (Mai 2026) bestätigt dieses Bild: Nutzen bei der Datenextraktion aus klinischen Texten und der Patientenaufklärung, mit dem Hinweis, dass domänenspezifische Modelle bei bestimmten Aufgaben besser abschneiden als Allzweckmodelle.

Halluzinationen, Kalibrierungsfehler und Inkonsistenz: die klinisch relevanten Grenzen

Die klinisch bedeutsamste Einschränkung ist die Halluzination, also das Generieren plausibel klingender, aber sachlich falscher Informationen. Eine Analyse vom November 2025 zu Halluzinationsrisiken bei im Gesundheitswesen eingesetzten LLMs stellte fest, dass halluzinierte Ausgaben Behandelnde zu schädlichen Interventionen verleiten können, besonders dann, wenn die falsche Ausgabe mit einer bereits bestehenden klinischen Vermutung übereinstimmt und der Fehler so unbemerkt bleibt.

Verschärft wird das durch ein Versagen der Konfidenzkalibrierung. Eine umfassende Bewertung von vier LLMs bei komplexen Rheumatologie-Fällen im Health Informatics Journal (April 2026) ergab durchweg schwache und nicht signifikante Zusammenhänge zwischen der Qualität der Argumentation und der ausgedrückten Sicherheit. Die Modelle erkannten nicht zuverlässig, wann sie falsch lagen, und signalisierten ähnliche Gewissheit, egal ob ihre Argumentation fundiert war oder nicht. ChatGPT zeigte mit 7,4 Prozent die niedrigste Halluzinationsrate der vier getesteten Modelle, verglichen mit 18,5 Prozent bei Gemini. Im klinischen Kontext ist 7,4 Prozent keine triviale Zahl, und das Kalibrierungsproblem erschwert den Umgang damit erheblich.

Drei weitere Genauigkeitseinschränkungen sind klinisch relevant. LLMs haben Wissens-Cutoffs: Leitlinien, Arzneimittelzulassungen und Sicherheitswarnungen, die nach diesem Zeitpunkt erschienen sind, spiegeln sich im Modell nicht wider, es sei denn, ein Live-Abruftool ist verfügbar. Bei kardiovaskulären Fällen mit Begleiterkrankungen nahm die Zuverlässigkeit von ChatGPT in einer simulationsbasierten Studie in Healthcare (MDPI, Juli 2025) deutlich ab, genau bei der Patientengruppe, die am häufigsten stationär behandelt wird. Und bei Arzneimittel-Arzneimittel-Wechselwirkungen lieferte ChatGPT in einer europäischen Studie in Clinical Pharmacology & Therapeutics (Februar 2025) in 90 Prozent der Fälle unterschiedliche Antworten, wenn dieselbe Abfrage wiederholt wurde, und übersah dabei klinisch relevante Wechselwirkungen. Die Studie kam zu dem Schluss, dass ChatGPT für diesen Anwendungsfall derzeit nicht empfohlen werden kann.

Regulatorischer Status und Verantwortungslücke

Allzweck-LLMs wie ChatGPT werden nicht mit einer medizinischen Zweckbestimmung vermarktet und tragen daher keine CE-Kennzeichnung als Medizinprodukte unter der EU-Medizinprodukteverordnung (EU-MDR). Das schafft eine erhebliche Verantwortungslücke. Bei einem regulierten KDU-Tool gibt es eine validierte Evidenzbasis, eine definierte Zweckbestimmung, einen Haftungsrahmen des Herstellers und einen regulatorischen Prüfpfad. Beim Verbraucher-ChatGPT gilt keiner dieser Schutzmechanismen, und die klinische Verantwortung liegt vollständig bei den Behandelnden. Ob ein Tool an realen Patientenpopulationen getestet wurde, ob seine Ausgaben gegen klinische Ergebnisse validiert wurden, ob ein Mechanismus für die Überwachung nach der Markteinführung existiert: Das sind keine abstrakten Governance-Fragen, sondern der Kern dessen, was regulierte von unregulierten Tools unterscheidet.

Patientensicherheitsrisiken jenseits der Halluzination

Automatisierungsbias beschreibt die Tendenz, einem KI-generierten Vorschlag zu folgen, selbst wenn das eigene klinische Urteil zu einer anderen Schlussfolgerung geführt hätte. Dieses Phänomen ist in der Human-Factors-Literatur gut belegt und gilt unmittelbar für die Nutzung von LLMs. Es wird durch das beschriebene Kalibrierungsversagen noch verstärkt: Behandelnde bekommen keine zuverlässigen Signale dafür, wann ein Modell unsicher ist.

Ein strukturelles Problem betrifft die Art klinischer Begegnungen selbst. Der AgentClinic-Benchmark in NPJ Digital Medicine (April 2026) stellte fest, dass die diagnostische Genauigkeit von LLMs in sequenziellen, interaktiven klinischen Szenarien auf unter ein Zehntel der Genauigkeit bei gleichwertigen statischen Fragen sinken kann. Reale klinische Begegnungen verlaufen sequenziell und dynamisch; die meisten Benchmark-Evaluierungen hingegen nicht. Ein Modell, das auf dem Papier gut aussieht, kann im Gesprächsverlauf einer echten Konsultation erheblich schlechter abschneiden.

Hinzu kommt, dass LLMs mit Daten auf Bevölkerungsebene trainiert werden. Seltene Erkrankungen sind per Definition unterrepräsentiert, sodass ein Modell, das bei häufigen Präsentationen gut abschneidet, bei atypischen Fällen versagen kann, genau dort, wo diagnostische Unterstützung am dringendsten gebraucht wird. Eine Studie, die fünf LLMs bei 50 klinischen Szenarien zum multiplen Myelom evaluierte und von drei unabhängigen Hämatolog:innen-Onkolog:innen bewertet wurde, kam zu dem Schluss, dass LLM-Behandlungsempfehlungen eine sorgfältige klinische Überwachung erfordern, auch in einem strukturierten, onkologiespezifischen Evaluierungskontext.

DSGVO-Risiken bei der Eingabe von Patientendaten

Ein Compliance-Risiko, das Behandelnde häufig unterschätzen, ist die Eingabe identifizierbarer Patientendaten in verbraucherorientierte LLM-Tools. Gemäß britischer und EU-Datenschutz-Grundverordnung (DSGVO) gelten Patientendaten als besondere Kategorie personenbezogener Daten, deren Verarbeitung eine ausdrückliche Rechtsgrundlage erfordert. Wer Name, Geburtsdatum, Krankengeschichte oder Testergebnisse in ein Verbraucher-LLM eingibt, gibt diese Daten mit hoher Wahrscheinlichkeit an einen Drittanbieter weiter, ohne Auftragsverarbeitungsvertrag, ohne Rechtsgrundlage und möglicherweise mit Datenspeicherung außerhalb des Vereinigten Königreichs oder der EU.

Unternehmensvereinbarungen mit OpenAI oder vergleichbaren Anbietern können Auftragsverarbeitungsverträge, die Verpflichtung zur Nicht-Verwendung von Eingaben für das Modelltraining sowie eine definierte Datenspeicherung umfassen. Verbraucherorientierte Tools bieten diese Schutzmechanismen standardmäßig nicht. Vor der Nutzung sollten Behandelnde klären: Gibt es einen Auftragsverarbeitungsvertrag? Wo werden Patientendaten verarbeitet und gespeichert? Hat das Informations-Governance-Team der eigenen Organisation das Tool genehmigt? Lassen sich Patientendaten vor der Eingabe anonymisieren, ohne den klinischen Nutzen zu verlieren?

Speziell entwickelte klinische KI versus Allzweck-LLM: was den Unterschied ausmacht

Der Unterschied liegt in der gesamten Bereitstellungsarchitektur, nicht allein im zugrunde liegenden Modell. Eine Benchmark-Studie in NPJ Digital Medicine (Dezember 2025), die sechs LLMs anhand von 30 Metriken testete, fand konsistente Leistungsvorteile domänenspezifischer medizinischer LLMs gegenüber Allzweckmodellen, mit höheren Werten bei Sicherheit (0,912) und Wirksamkeit (0,861). Die Gesamtleistung über alle Modelle lag im Schnitt bei 57,2 Prozent; in klinischen Hochrisikoszenarien fiel sie um 13,3 Prozent ab.

Speziell entwickelte klinische KI-Tools bieten typischerweise validierte Ausgaben, die gegen klinische Ergebnisse in definierten Patientenpopulationen getestet wurden, Prüfpfade für Governance und Verantwortlichkeit sowie Integration in Praxisverwaltungssysteme ohne manuelle Neueingabe. Sie tragen eine Medizinprodukt-Zertifizierung unter den relevanten regulatorischen Rahmenwerken, etwa EU-MDR, UKCA oder der britischen Arzneimittel- und Gesundheitsproduktebehörde (Medicines and Healthcare products Regulatory Agency, MHRA). Definierte Zweckbestimmungen beschränken das Tool auf Aufgaben, bei denen seine Leistung tatsächlich evaluiert wurde, eine Einschränkung, die bei Allzweck-LLMs strukturell nicht umsetzbar ist.

Was Behandelnde bei der Bewertung von KI-Tools beachten sollten

Benchmark-Leistung entspricht nicht realweltlichem klinischem Nutzen. LLMs haben Werte im Bereich von 80–90 Prozent bei medizinischen Zulassungsprüfungen wie dem United States Medical Licensing Examination (USMLE) erreicht, ein Ergebnis, das erhebliche Medienaufmerksamkeit erzeugte. Zulassungsprüfungen testen Erinnerung und strukturiertes Denken bei klar definierten Problemen, bilden aber nicht die Mehrdeutigkeit, den Zeitdruck und die sequenzielle Entscheidungsfindung realer klinischer Begegnungen ab. Die systematische Übersichtsarbeit zur Darmkrebsversorgung stellte zudem fest, dass nur 27 Prozent der eingeschlossenen Studien ein niedriges Verzerrungsrisiko aufwiesen, und ein Expertenkonsens von 2025 in ScienceDirect identifizierte das Fehlen einheitlicher Evaluierungsmethoden als erhebliches Hindernis für eine sichere Bereitstellung.

Vor der Übernahme eines KI-Tools in einen klinischen Arbeitsablauf sollten Behandelnde folgende Fragen strukturiert prüfen:

• Wurde das Tool an Patientenpopulationen validiert, die mit denen in der eigenen klinischen Umgebung vergleichbar sind, einschließlich Begleiterkrankungen und atypischen Präsentationen?

• Ist es unter dem relevanten regulatorischen Rahmenwerk als Medizinprodukt klassifiziert, und fällt der eigene klinische Anwendungsfall unter die angegebene Zweckbestimmung?

• Gibt es einen Auftragsverarbeitungsvertrag, hat das Informations-Governance-Team das Tool genehmigt, und existiert ein Prüfpfad für Verantwortlichkeit?

• Sind Behandelnde darin geschult, die spezifischen Versagensmodi des Tools zu erkennen, insbesondere Halluzination und Automatisierungsbias?

Das ChatGPT-CARE-Preprint identifizierte spezifische Einschränkungen des Basis-ChatGPT in klinischen Umgebungen: das Ignorieren klinischer Praxisleitlinien, fehlende Transparenz der Argumentation und zu allgemeine Antworten. Als mögliche Gegenmaßnahmen schlug das Preprint kontextbasiertes Lernen und schrittweises Denken vor. Diese Ansätze zeigen eine Entwicklungsrichtung für speziell entwickelte Tools, stellen aber in Verbraucher-Bereitstellungen keine fertige Lösung dar.

Wo die Grenze liegt

Die Evidenz stützt eine differenzierte Position. ChatGPT und vergleichbare LLMs können den Dokumentationsaufwand reduzieren, Nicht-Spezialist:innen bei Differenzialdiagnosen unterstützen und die Verständlichkeit klinischer Kommunikation verbessern. Eigenständige klinische Entscheidungsfindung durch LLMs sowie der Einsatz von Allzweck-Verbrauchertools als Ersatz für validierte KDU-Systeme in Hochrisikokontexten werden durch die vorliegende Evidenz nicht gestützt. Die Studie in den Annals of Biomedical Engineering zu ChatGPT in der KDU kam zu dem Schluss, dass menschliche Expertenaufsicht über alle Anwendungen hinweg unverzichtbar bleibt, eine Schlussfolgerung, die sich durch die gesamte Literatur zieht.

Aufgaben mit geringem Risiko und hohem Volumen, also Dokumentationsunterstützung, Verfassen von Arztbriefen und Literatursynthese, sind die Bereiche, in denen LLMs den größten Nutzen bei geringstem Risiko bieten, vorausgesetzt, die Anforderungen an den Datenschutz bei Patientendaten sind erfüllt. Diagnostische oder verschreibende Entscheidungen mit hohem Risiko, insbesondere bei komplexen, multimorbiden oder seltenen Krankheitspräsentationen, erfordern validierte, regulierte Tools zur klinischen Entscheidungsunterstützung mit definierten Zweckbestimmungen und in den Arbeitsablauf integrierter klinischer Aufsicht. Verbrauchertools ohne Unternehmens-Datenvereinbarungen dürfen unter keinen Umständen mit identifizierbaren Patientendaten verwendet werden.

Die Aufsicht durch Behandelnde ist angesichts des aktuellen Stands der LLM-Genauigkeit, Kalibrierung und regulatorischen Validierung eine strukturelle Anforderung und bleibt der wesentliche Kontrollpunkt in jeder KI-unterstützten Entscheidung.

Häufig gestellte Fragen

▶ Ist ChatGPT ein reguliertes Medizinprodukt für klinische Entscheidungsunterstützung?

Nein. Wer das prüfen möchte, sollte konkret fragen: Gibt es eine CE-Kennzeichnung unter der EU-MDR, eine definierte Zweckbestimmung und einen benannten Hersteller, der für Fehler haftet? Fehlt eines dieser drei Elemente, liegt kein reguliertes Medizinprodukt vor, und die klinische Verantwortung verbleibt vollständig bei den Behandelnden.

▶ Welche klinischen Aufgaben zeigen die stärkste Evidenz für den Nutzen von LLMs?

Dokumentationsunterstützung ist am besten belegt. Weniger bekannt ist, dass Nicht-Spezialist:innen in der NPJ-Digital-Medicine-Studie zu Polyneuropathie ihre Diagnosegenauigkeit in 21,8 Prozent der Fälle verbesserten, nachdem sie ChatGPT-Vorschläge gesichtet hatten, ein Hinweis darauf, dass der Nutzen besonders dort anfällt, wo Fachwissen fehlt.

▶ Was ist Halluzination, und warum ist sie in klinischen Umgebungen wichtig?

Ein LLM generiert sachlich falsche Informationen, die sprachlich überzeugend klingen. Das eigentliche Risiko liegt darin, dass Modelle keine zuverlässigen Signale liefern, wann sie falsch liegen. Behandelnde erhalten also keine Warnung, die eine manuelle Überprüfung auslösen würde.

▶ Kann ChatGPT zuverlässig Arzneimittel-Arzneimittel-Wechselwirkungen erkennen?

Nein. Die Studie in Clinical Pharmacology and Therapeutics (Februar 2025) empfiehlt ChatGPT für diesen Anwendungsfall ausdrücklich nicht. Wer Wechselwirkungsprüfungen automatisieren möchte, sollte auf regelbasierte Systeme mit codierter Logik zurückgreifen, deren Ausgaben nicht mit Frageformulierung oder Kontext variieren.

▶ Was sind die DSGVO-Risiken bei der Eingabe von Patientendaten in Verbraucher-LLM-Tools?

Vor jeder Nutzung sollten Behandelnde drei Dinge klären: Liegt ein Auftragsverarbeitungsvertrag vor? Hat das Informations-Governance-Team das Tool genehmigt? Lassen sich Patientendaten vor der Eingabe so anonymisieren, dass der klinische Nutzen erhalten bleibt? Fehlt die Antwort auf eine dieser Fragen, sollte das Tool nicht verwendet werden.

▶ Wie unterscheidet sich ein speziell entwickeltes klinisches KI-Tool vom Allzweck-ChatGPT?

Der entscheidende Unterschied ist die Zweckbestimmung. Ein reguliertes Tool darf nur für Aufgaben eingesetzt werden, bei denen seine Leistung tatsächlich evaluiert wurde. Diese Einschränkung schützt Behandelnde, weil sie den Einsatzbereich klar begrenzt und Haftungsfragen regelt. Bei Allzweck-LLMs fehlt diese Begrenzung strukturell.

▶ Bedeutet das Bestehen medizinischer Zulassungsprüfungen, dass ChatGPT für klinische Entscheidungsunterstützung sicher ist?

Nein. Der AgentClinic-Benchmark (NPJ Digital Medicine, April 2026) zeigte, dass die diagnostische Genauigkeit von LLMs in sequenziellen, interaktiven Szenarien auf unter ein Zehntel der Genauigkeit bei statischen Fragen sinken kann. Zulassungsprüfungen sind statisch, reale Konsultationen sind es nicht.

▶ Was ist Automatisierungsbias, und wie beeinflusst er Behandelnde, die KI-Tools verwenden?

Automatisierungsbias beschreibt die Tendenz, einem KI-Vorschlag zu folgen, obwohl das eigene klinische Urteil abweicht. Das Kalibrierungsproblem aktueller Modelle verschärft dies: Laut der Bewertung im Health Informatics Journal (April 2026) drückten Modelle ähnliche Sicherheit aus, unabhängig davon, ob ihre Argumentation fundiert war, sodass Behandelnde keine verlässlichen Warnsignale erhalten.

▶ Wo sollten Behandelnde die Grenze zwischen angemessener Nutzung und unangemessener Abhängigkeit von LLMs ziehen?

Eine praktische Faustregel: Wenn ein Fehler in der LLM-Ausgabe erst durch einen Folgeschaden auffallen würde, ist der Anwendungsfall zu risikoreich für ein unreguliertes Tool. Dokumentation, Arztbriefe und Literatursynthese fallen selten in diese Kategorie. Diagnose- und Verschreibungsentscheidungen bei multimorbiden oder seltenen Fällen fast immer.