Warum Psychotherapeuten KI-Dokumentationstools ablehnen

Behandelnde im Bereich psychische Gesundheit berichten von auffälliger Zurückhaltung gegenüber KI-Dokumentationstools, und die Gründe dafür sind weitreichender als bloße Technophobie, auch wenn die Evidenz dazu, wie sich dies im Vergleich zu anderen Fachgebieten verhält, begrenzt und überwiegend selbstberichtet ist, statt auf einer direkten fachübergreifenden Studie zu beruhen. Die therapeutische Beziehung in der psychischen Gesundheitsversorgung ist nicht nur der Rahmen für die Behandlung, sondern der Mechanismus der Behandlung selbst. Diese Unterscheidung prägt, wie Behandelnde über Dokumentation, Einwilligung, Daten und klinisches Urteilsvermögen denken.

Was die Daten zeigen: Dokumentationszurückhaltung über Fachgebiete hinweg

Das Muster einer höheren Zurückhaltung in der psychischen Gesundheitsversorgung zeigt sich in mehreren aktuellen Quellen, auch wenn die Evidenzbasis noch im Aufbau ist. Eine Practitioner Pulse Survey der American Psychological Association aus dem Jahr 2025 mit 1.742 Psychologinnen und Psychologen ergab, dass zwar 56 Prozent mindestens einmal KI (Künstliche Intelligenz, Computersysteme, die Aufgaben ausführen, die normalerweise menschliche Intelligenz erfordern) genutzt hatten, aber 38 Prozent befürchteten, dass KI einige oder alle ihrer beruflichen Aufgaben überflüssig machen könnte. Für diese Zahl wurde keine direkt vergleichbare Umfrage aus der hausärztlichen Versorgung identifiziert, sodass unklar bleibt, wie groß der Unterschied zu anderen Fachgebieten tatsächlich ist.

Eine in Frontiers in Psychiatry veröffentlichte Querschnittsstudie verwies auf andere Forschung, die ergab, dass fast die Hälfte (48,2 Prozent) der Fachkräfte im Gesundheitswesen allgemein eine geringe digitale Kompetenz aufweist, und merkte an, dass andere Literatur zu Fachkräften im Gesundheitswesen allgemein Arbeitsplatzsicherheit, ethische und moralische Dilemmata sowie Auswirkungen auf die Patient-Behandler-Beziehung als Barrieren für die KI-Einführung nennt. Eine europäische Fallserie aus Kroatien ergab, dass der Widerstand von Psychiaterinnen und Psychiatern gegen KI-Tools eher aus ethischen Dilemmata, Vertrauensdefiziten und institutionellen Faktoren als aus Technophobie resultierte.

Eine in Discover Public Health veröffentlichte Scoping-Review, die Studien bis März 2025 abdeckte, identifizierte den Widerstand von Behandelnden, der aus Bedenken hinsichtlich Autonomie und den ethischen Implikationen KI-gestützter klinischer Entscheidungen resultiert, als ein Haupthindernis bei der Implementierung psychiatrischer KI im Allgemeinen (nicht speziell bei der Dokumentation). Die Evidenzbasis ist uneinheitlich. Die meisten verfügbaren Studien sind kleinformatig, qualitativ oder basieren auf selbstberichteten Einstellungen statt auf beobachtetem Verhalten im großen Maßstab.

Das Problem der therapeutischen Allianz: Warum sich KI im Therapieraum anders anfühlt

In den meisten klinischen Fachgebieten ist die Begegnung zwischen Behandelnden und Patientinnen oder Patienten das Vehikel zur Erbringung von Versorgung: eine Diagnose, ein Rezept, ein Eingriff. In der psychischen Gesundheitspraxis ist die Beziehung selbst oft das primäre therapeutische Instrument. Die therapeutische Allianz, also die Qualität der kooperativen Bindung zwischen Therapeutin oder Therapeut und Patientin oder Patient, gilt in der psychotherapeutischen Forschungsliteratur als weithin anerkannt als einer der robustesten Prädiktoren für Behandlungsergebnisse über psychotherapeutische Modalitäten hinweg.

Alles, was die Beziehungsdynamik verändert, ist nicht nur eine Überlegung zum Arbeitsablauf, sondern eine klinische. Deshalb bewerten Behandelnde im Bereich psychische Gesundheit die Einführung eines KI-Assistenten anders als Hausärztinnen und Hausärzte. Wer in der hausärztlichen Versorgung Ambient Voice Technology (AVT, eine Technologie, die Sprache während einer Konsultation erfasst und transkribiert) nutzt, kann mehr Aufmerksamkeit für die Patientin oder den Patienten schaffen. Eine Therapeutin oder ein Therapeut, die oder der dasselbe Tool nutzt, führt möglicherweise eine dritte Präsenz in einen Raum ein, in dem die dyadische Beziehung die Behandlung ist.

Eine Simulationsstudie mit Psychiaterinnen und Psychiatern, die KI-Schreibassistenten nutzten, ergab, dass die Behandelnden ihr verbales Verhalten für das System anpassten, beispielsweise indem sie nonverbale Hinweise laut aussprachen – eine Strategie, die die Studienteilnehmenden überwiegend als nützliche Optimierung und nicht als Störung beschrieben, auch wenn sie zeigt, wie die Präsenz des Tools das Verhalten der Behandelnden während der Konsultation prägt. Ein in Behavioral Health Business zitierter Behandelnder beschrieb den therapeutischen Raum als einen „heiligen Prozess“, der mit Ambient-Überwachung unvereinbar sei, und merkte an, dass KI-Schreibassistenten in der Therapie „inhärent die Vertraulichkeit brechen“.

Patientenvertrauen und Offenlegung: Was Behandelnde befürchten, dass die KI-Präsenz verändern wird

Eine verwandte, aber eigenständige Sorge betrifft das Verhalten der Patientinnen und Patienten, nicht nur das der Behandelnden. Fachkräfte im Bereich psychische Gesundheit berichten von der Sorge, dass Patientinnen und Patienten, die wissen, dass eine Sitzung aufgezeichnet oder transkribiert wird, sensible Offenlegungen selbst zensieren könnten. Besonders gefährdet sind Inhalte zu Trauma, Sexualität, Suizidalität, Substanzkonsum und Missbrauchserfahrungen.

Diese Sorge hat eine gewisse empirische Grundlage. Eine aktuelle NPR-Untersuchung berichtete über Erkenntnisse zum amerikanischen Vertrauen in KI für die psychische Gesundheitsversorgung. Therapeutinnen und Therapeuten, die KI-Notiztools nutzen, müssen erhebliche Patientenängste bezüglich Einwilligung und Datennutzung adressieren. Ein spezieller Bericht, der mit Fachkräften und Patientinnen und Patienten der psychischen Gesundheitsversorgung des National Health Service (NHS) entwickelt wurde, identifizierte eine besondere Vulnerabilität bei Menschen mit Paranoia oder Traumageschichten. Für diese Patientinnen und Patienten kann die Präsenz eines KI-Schreibassistenten ein spezifisches klinisches Risiko über allgemeine Datenschutzbedenken hinaus bergen.

Die qualitative Studie in Frontiers in Psychiatry identifizierte zudem eine anhaltende Spannung zwischen der Aufbewahrung von Sitzungsaufzeichnungen als Sicherung gegen Datenverlust und ihrer Minimierung oder Löschung zur Verringerung von Datenschutz- und Vertraulichkeitsrisiken – bemerkenswerterweise fielen die Gesamtergebnisse dieser Studie zu KI-Schreibassistenten überwiegend positiv aus.

Das Sprachproblem: Warum psychologische Nuancen schwerer zu erfassen sind

Fachkräfte im Bereich psychische Gesundheit äußern eine weitere Sorge, die spezifisch für den Inhalt der klinischen Dokumentation in ihrem Bereich ist: dass KI-generierte Notizen möglicherweise nicht genau wiedergeben, was in einer Sitzung geschah. Nicht weil die Transkription ungenau ist, sondern weil der klinisch bedeutsame Inhalt einer Therapiesitzung nicht unmittelbar verbal ist.

Die Herausforderungen umfassen:

• Tonale Mehrdeutigkeit: Eine Patientin oder ein Patient, die oder der sagt „Mir geht's gut“, kann damit Belastung ausdrücken. Die wörtliche Transkription ist korrekt, die klinische Bedeutung jedoch das Gegenteil.

• Metaphorische Sprache: Patientinnen und Patienten nutzen häufig Metaphern, Narrative und indirekte Ausdrucksformen, wenn sie sich schwierigem Material nähern. KI-Systeme, die auf klinischer Sprache trainiert sind, können dies vereinfachen oder falsch interpretieren.

• Stille und nonverbale Hinweise: Eine bedeutsame Pause, eine Haltungsänderung oder die sichtbare emotionale Reaktion einer Patientin oder eines Patienten kann der klinisch wichtigste Moment einer Sitzung sein und in jedem Transkript völlig fehlen.

• Die Lücke zwischen Berichtetem und Beobachtetem: Was eine Patientin oder ein Patient sagt und was eine Behandelnde oder ein Behandelnder klinisch beobachtet, unterscheidet sich oft. Letzteres ist die Grundlage für Formulierung und Behandlungsplanung.

Begegnungen in der psychischen Gesundheit werden häufig als „komplex, explorativ und relational“ auf eine Weise sind, die sie von der strukturierten Informationssammlung einer körperlichen Untersuchung unterscheidet. Forschung zu KI-Ambient-Schreibassistenten in der hausärztlichen Versorgung hat zudem Fragen aufgeworfen, ob ein höheres Maß an neuropsychiatrischer Symptomdokumentation tatsächlich zu einem besseren klinischen Management führt.

Vertraulichkeit, Einwilligung und DSGVO: Erhöhte Sensibilität bei Akten zur psychischen Gesundheit

Akten zur psychischen Gesundheit nehmen eine besondere Position im Datenschutzrecht ein. Gemäß der Datenschutz-Grundverordnung (DSGVO, europäisches Gesetz zum Schutz personenbezogener Daten) werden Daten zur psychischen Gesundheit als besondere Kategorien von Daten klassifiziert, die das höchste Schutzniveau und die strengsten Anforderungen für eine rechtmäßige Verarbeitung erfordern. Für europäische Behandelnde entstehen dadurch spezifische DSGVO-Verpflichtungen, die über die allgemeinen Datensicherheitsfragen hinausgehen, die für KI-Tools in anderen klinischen Kontexten gelten.

Die Fragen, die Behandelnde stellen und die KI-Tool-Entwickler nicht immer klar beantworten können, umfassen:

• Wo werden Sitzungsinhalte verarbeitet und gespeichert? Ist die Datenhaltung in der EU garantiert?

• Was passiert mit Transkripten oder abgeleiteten Zusammenfassungen nach der Notizerstellung? Werden sie aufbewahrt, und von wem?

• Stellt die Verarbeitung durch den KI-Anbieter eine separate Rechtsgrundlage dar, oder erstreckt sich die Patienteneinwilligung zur Behandlung auch auf KI-gestützte Dokumentation?

• Was sind die Verpflichtungen, wenn eine betroffene Person die Löschung von Aufzeichnungen beantragt, die KI-verarbeitete Sitzungsinhalte enthalten?

Ein behandlerorientierter Artikel in Digital Health merkte an, dass NHS-Fachkräfte im Bereich psychische Gesundheit diese Fragen explizit im Kontext der Ambient-Scribe-Implementierung stellten. Eine von einem US-Anbieter veröffentlichte Analyse zu Ambient-KI-Schreibassistenten hat separat die Sorge geäußert, dass permanente Transkripte von Therapiesitzungen ein größeres Risiko der gerichtlichen Vorlage/Vorladung schaffen könnten als handschriftliche oder getippte Notizen, da eine wörtliche Aufzeichnung sich von einer klinischen Zusammenfassung unterscheidet – ein Rechtskonzept aus der US-amerikanischen Praxis zur Arzthaftung, dessen Anwendbarkeit auf europäische Rechtssysteme nicht unabhängig verifiziert wurde.

Der in Psychological Medicine veröffentlichte IEACP-Ethikrahmen, der durch die Synthese mehrerer Studien entwickelt wurde, identifiziert Datenschutz und Transparenz als zentrale ethische Werte in der computergestützten Psychiatrie. Er argumentiert, dass strukturierte ethische Entscheidungsprozesse notwendig sind, gerade weil bestehende KI-Richtlinien die spezifischen Bedingungen der psychischen Gesundheitspraxis nicht angemessen adressieren.

Berufliche Identität und klinisches Urteilsvermögen: Wenn Dokumentation Teil des Prozesses ist

Es gibt eine weitere Dimension der Zurückhaltung von Fachkräften im Bereich psychische Gesundheit, die die Literatur zur Technologieakzeptanz selten anerkennt: Für viele Therapeutinnen, Therapeuten, Psychologinnen und Psychologen ist das Schreiben klinischer Notizen kein administrativer Overhead, sondern ein reflektierender klinischer Akt.

Der Prozess, eine Sitzung schriftlich zu formulieren, zu entscheiden, was aufzuzeichnen ist, wie die Präsentation einer Patientin oder eines Patienten zu charakterisieren ist und wie eine klinische Beobachtung zu benennen ist, ist Teil davon, wie Behandelnde eine Sitzung verarbeiten, verstehen und planen. Dies gilt besonders in psychodynamischen, psychoanalytischen und systemischen Traditionen, in denen der eigene reflektierende Prozess der Behandelnden als Teil der therapeutischen Arbeit betrachtet wird. Diesen Prozess an einen KI-Assistenten abzugeben, fühlt sich nicht wie eine Entlastung vom Dokumentationsaufwand an, sondern wie eine Verlagerung des klinischen Denkens.

Diese Sichtweise steht im Einklang mit der breiteren Sorge, dass Fachkräfte im Bereich psychische Gesundheit befürchten, KI könnte das klinische Urteilsvermögen untergraben, nicht nur praktische Barrieren wie digitale Kompetenz oder Datensicherheit betreffen. Der IEACP-Rahmen identifiziert explizit die „Erosion des klinischen Urteilsvermögens“ als eines der zentralen Risiken, die ethische Governance in der computergestützten Psychiatrie erfordern.

Eine praktische Übersicht in Molecular Psychiatry merkt an, dass die klinische Einführung von KI in der Psychiatrie trotz ihres technischen Potenzials „begrenzt bleibt“. Sie plädiert für eine „umsichtige Integration“, die „die menschenzentrierte Essenz der psychiatrischen Praxis“ wahrt, und erkennt an, dass Technologie und klinische Kultur noch nicht gut aufeinander abgestimmt sind.

Was Behandelnde sagen, dass sie brauchen, bevor sie KI-Dokumentationstools übernehmen

Über die überprüften Quellen hinweg artikulieren Fachkräfte im Bereich psychische Gesundheit eine recht konsistente Reihe von Voraussetzungen für die Einführung. Dies sind keine Forderungen nach Perfektion, sondern Bedingungen für klinisches Vertrauen:

• Rahmenwerke für Patienteneinwilligung: Explizite, sitzungsbezogene informierte Einwilligung zur KI-gestützten Dokumentation, getrennt von der allgemeinen Einwilligung zur Behandlung. Kein Kontrollkästchen im Anmeldeformular, sondern ein Gespräch.

• Sitzungsbezogene Opt-in-Kontrollen: Die Möglichkeit für Behandelnde oder Patientinnen und Patienten, bestimmte Sitzungen oder Offenlegungen von der KI-Verarbeitung auszuschließen – besonders relevant für hochsensibles Material.

• Transparenz über Datenverarbeitung: Klare, zugängliche Informationen darüber, wo Daten verarbeitet werden, wie lange sie aufbewahrt werden, wer darauf zugreifen kann und auf welcher Rechtsgrundlage.

• Sinnvolle Bearbeitbarkeit: Vertrauen, dass KI-generierte Notizen substanziell bearbeitet werden können, bevor sie in die klinische Akte eingehen, und dass die Behandelnden – nicht die KI-Ausgabe – die maßgebliche Quelle sind.

• Spezifische Validierung für psychische Gesundheit: Nachweis, dass Tools in Kontexten der psychischen Gesundheit getestet und validiert wurden, nicht einfach aus Arbeitsabläufen der hausärztlichen Versorgung oder Krankenhausmedizin adaptiert.

Die Berichterstattung im APA Monitor merkt an, dass die Zurückhaltung gegenüber KI in der Therapie den frühen Widerstand gegen Praxisverwaltungssysteme widerspiegelt. Sie legt nahe, dass Bildung und kollegiale Verarbeitung Schlüssel zur Einführung waren. Dies deutet darauf hin, dass der Weg zur Einführung sowohl sozial und professionell als auch technisch ist. Forschung unter psychiatrischem Personal hat ergeben, dass die Bereitstellung grundlegender Informationen darüber, wie maschinenlernbasierte klinische Entscheidungsunterstützungssysteme funktionieren, das Vertrauen erhöhen und Misstrauen verringern kann.

Implikationen für Praxismanager und klinische Leitungen bei der Planung von KI-Einführungen

Für diejenigen, die für die Implementierung von KI-Dokumentationstools in der psychischen Gesundheitsversorgung verantwortlich sind, übersetzen sich die oben genannten Bedenken der Behandelnden in konkrete Planungsüberlegungen:

• Co-Design, nicht bloße Konsultation: Behandelnde, die an der Gestaltung der Implementierung eines Tools beteiligt waren – einschließlich der Einwilligungsprozesse, Opt-out-Mechanismen und Dokumentationsvorlagen –, werden es eher nutzen und es weniger als aufgezwungen empfinden.

• Pilotprojekte in Kontexten mit geringerer Akuität zuerst: Der Beginn mit administrativen Aufgaben wie Entlassbriefen, Überweisungen und Korrespondenz zwischen Sitzungen, anstatt mit Sitzungstranskriptionen, ermöglicht es Behandelnden, Vertrautheit mit KI-gestützter Dokumentation aufzubauen, ohne sofort die Frage der therapeutischen Allianz zu berühren.

• Zurückhaltung als klinisches Feedback behandeln: Die Scoping-Review in Discover Public Health rahmt den Widerstand von Behandelnden als Haupthindernis für die Implementierung, macht aber zugleich deutlich, dass dieser Widerstand legitime klinische Bedenken widerspiegelt. Praxismanagerinnen und -manager, die ihn als zu überwindenden Veränderungswiderstand betrachten, werden mehr davon erleben. Wer ihn als wertvolle Information begreift, kann daraus lernen.

• Klare Data-Governance-Dokumentation bereitstellen: Angesichts der DSGVO-Verpflichtungen und des Status besonderer Kategorien von Daten zur psychischen Gesundheit benötigen Behandelnde schriftliche Zusicherungen – nicht nur mündliche Beteuerungen – zu Datenhaltung, Aufbewahrung und Zugriffskontrollen, bevor sie KI-Dokumentationstools verantwortungsvoll mit ihren Patientinnen und Patienten nutzen können.

• Raum für kollegiale Verarbeitung schaffen: Berichte über die KI-Einführung in der Therapie legen nahe, dass der kollegiale Austausch – nicht nur Produktdemonstrationen – eine wichtige Rolle dabei spielt, das Vertrauen von Behandelnden in neue Tools aufzubauen, auch wenn die Evidenz für diesen spezifischen Mechanismus noch begrenzt ist.

Zurückhaltung als Signal, nicht als Hindernis

Die größere Zurückhaltung bei der Dokumentation, die von Fachkräften im Bereich psychische Gesundheit berichtet wird, ist kein Versagen digitaler Kompetenz oder eine irrationale Bindung an bestehende Arbeitsabläufe. Sie spiegelt die spezifischen klinischen und ethischen Anforderungen einer Arbeit wider, in der die Beziehung die Behandlung ist, die Sprache die Daten sind und die Aufzeichnungen zu den sensibelsten Dokumenten im Gesundheitswesen gehören. Wenn Behandelnde Bedenken bezüglich therapeutischer Allianz, Patientenoffenlegung, DSGVO-Konformität und der reflektierenden Funktion des Notizenschreibens äußern, beschreiben sie reale klinische Risiken.

Die World Psychiatry-Übersicht zur Implementierung digitaler psychischer Gesundheit kommt zu dem Schluss, dass digitale Tools „die psychische Gesundheitsversorgung positiv beeinflussen können, wenn sie korrekt eingesetzt werden“. „Korrekt“ leistet in diesem Satz erhebliche Arbeit. Ein korrekter Einsatz in der psychischen Gesundheit erfordert die Auseinandersetzung mit den hier dokumentierten Bedenken – nicht deren Umgehung. KI-Tool-Entwicklerinnen und -Entwickler sowie Praxisleitungen, die das ernst nehmen, sind besser positioniert, um Tools und das klinische Vertrauen aufzubauen, die in diesem Umfeld tatsächlich funktionieren.

Häufig gestellte Fragen

▶ Warum sind Fachkräfte im Bereich psychische Gesundheit zurückhaltender bei der Nutzung von KI-Dokumentationstools als andere Behandelnde?

Fachkräfte im Bereich psychische Gesundheit berichten von größerer Zurückhaltung gegenüber KI-gestützter klinischer Dokumentation als Kolleginnen und Kollegen in der hausärztlichen Versorgung, Physiotherapie oder Krankenhausmedizin. Die Forschung weist auf drei Hauptgründe hin: Bedenken bezüglich der therapeutischen Beziehung, ethische und datenschutzrechtliche Dilemmata sowie Fragen zum klinischen Urteilsvermögen. In der psychischen Gesundheitspraxis ist die Beziehung zwischen Behandelnden und Patientinnen oder Patienten selbst der primäre Mechanismus der Versorgung, nicht nur deren Kontext.

▶ Was sagt die Evidenz über die KI-Einführung in der psychischen Gesundheitsversorgung?

Die Evidenzbasis ist noch im Aufbau. Eine Practitioner Pulse Survey der American Psychological Association aus dem Jahr 2025 mit 1.742 Psychologinnen und Psychologen ergab, dass 56 Prozent mindestens einmal KI genutzt hatten, aber 38 Prozent befürchteten, dass sie einige oder alle ihrer beruflichen Aufgaben überflüssig machen könnte. Eine in Frontiers in Psychiatry veröffentlichte Querschnittsstudie verwies auf andere Forschung zu Fachkräften im Gesundheitswesen allgemein, die ergab, dass fast die Hälfte (48,2 Prozent) eine geringe digitale Kompetenz aufweist, und nannte ethische Dilemmata, Bedenken bezüglich der Patient-Behandler-Beziehung und Arbeitsplatzsicherheit als Barrieren aus der breiteren Literatur.

▶ Wie beeinflusst Ambient Voice Technology die therapeutische Beziehung in Sitzungen zur psychischen Gesundheit?

Die therapeutische Allianz, also die Qualität der kooperativen Bindung zwischen Therapeutin oder Therapeut und Patientin oder Patient, ist einer der robustesten Prädiktoren für Behandlungsergebnisse über psychotherapeutische Modalitäten hinweg. Eine Hausärztin oder ein Hausarzt, die oder der Ambient Voice Technology nutzt, kann mehr Aufmerksamkeit für die Patientin oder den Patienten schaffen. Eine Therapeutin oder ein Therapeut, die oder der dasselbe Tool nutzt, führt möglicherweise eine dritte Präsenz in einen Raum ein, in dem die dyadische Beziehung die Behandlung ist. Eine Simulationsstudie ergab, dass Psychiaterinnen und Psychiater, die KI-Schreibassistenten nutzen, ihr verbales Verhalten für das System anpassten, beispielsweise indem sie nonverbale Hinweise laut aussprachen – eine Strategie, die die Studienteilnehmenden überwiegend als nützliche Optimierung und nicht als Störung beschrieben, auch wenn sie zeigt, wie die Präsenz des Tools das Verhalten der Behandelnden während der Konsultation prägt.

▶ Könnten KI-Dokumentationstools beeinflussen, was Patientinnen und Patienten bereit sind, in der Therapie offenzulegen?

Fachkräfte im Bereich psychische Gesundheit berichten von der Sorge, dass Patientinnen und Patienten, die wissen, dass eine Sitzung aufgezeichnet oder transkribiert wird, sensible Offenlegungen selbst zensieren könnten. Besonders gefährdet sind Inhalte zu Trauma, Sexualität, Suizidalität, Substanzkonsum und Missbrauchserfahrungen. Ein mit Fachkräften und Patientinnen und Patienten der psychischen Gesundheitsversorgung des National Health Service entwickelter Bericht identifizierte eine besondere Vulnerabilität bei Menschen mit Paranoia oder Traumageschichten, für die die Präsenz eines KI-Schreibassistenten ein spezifisches klinisches Risiko bergen kann.

▶ Warum ist KI-generierte Dokumentation in der psychischen Gesundheit schwieriger richtig hinzubekommen als in anderen Fachgebieten?

Der klinisch bedeutsame Inhalt einer Therapiesitzung ist nicht unmittelbar verbal. Eine Patientin oder ein Patient, die oder der sagt „Mir geht's gut“, kann damit Belastung ausdrücken. Die wörtliche Transkription ist korrekt, die klinische Bedeutung jedoch das Gegenteil. Patientinnen und Patienten nutzen häufig Metaphern und indirekte Ausdrucksformen, wenn sie sich schwierigem Material nähern, und KI-Systeme können dies vereinfachen oder falsch interpretieren. Stille, Haltungsänderungen und sichtbare emotionale Reaktionen können die klinisch wichtigsten Momente einer Sitzung sein, sind aber in jedem Transkript völlig abwesend.

▶ Was sind die DSGVO-Verpflichtungen für KI-Dokumentationstools, die in der psychischen Gesundheitspraxis verwendet werden?

Gemäß der Datenschutz-Grundverordnung werden Daten zur psychischen Gesundheit als besondere Kategorien von Daten klassifiziert, die das höchste Schutzniveau und die strengsten Anforderungen für eine rechtmäßige Verarbeitung erfordern. Europäische Behandelnde benötigen klare Antworten auf mehrere Fragen, bevor sie KI-Dokumentationstools nutzen: Wo werden Sitzungsinhalte verarbeitet und gespeichert? Ist die Datenhaltung in der EU garantiert? Was passiert mit Transkripten nach der Notizerstellung? Und was ist die Rechtsgrundlage für die Verarbeitung durch den KI-Anbieter?

▶ Wird das Schreiben klinischer Notizen in der psychischen Gesundheitspraxis als administrative Aufgabe oder als klinischer Akt betrachtet?

Für viele Therapeutinnen, Therapeuten, Psychologinnen und Psychologen ist das Schreiben klinischer Notizen ein reflektierender klinischer Akt und kein administrativer Overhead. Der Prozess, eine Sitzung schriftlich zu formulieren, zu entscheiden, was aufzuzeichnen ist und wie die Präsentation einer Patientin oder eines Patienten zu charakterisieren ist, ist Teil davon, wie Behandelnde eine Sitzung verarbeiten und planen. Dies gilt besonders in psychodynamischen, psychoanalytischen und systemischen Traditionen, in denen der eigene reflektierende Prozess der Behandelnden als Teil der therapeutischen Arbeit betrachtet wird.

▶ Welche Bedingungen nennen Fachkräfte im Bereich psychische Gesundheit, bevor sie KI-Dokumentationstools übernehmen?

Über die überprüften Quellen hinweg artikulieren Behandelnde eine konsistente Reihe von Voraussetzungen. Sie wünschen sich explizite, sitzungsbezogene informierte Einwilligung zur KI-gestützten Dokumentation, getrennt von der allgemeinen Einwilligung zur Behandlung. Sie wollen sitzungsbezogene Opt-in-Kontrollen, damit entweder Behandelnde oder Patientinnen und Patienten bestimmte Sitzungen oder Offenlegungen von der KI-Verarbeitung ausschließen können. Sie fordern transparente Informationen über Datenverarbeitung, Aufbewahrung und Zugriff. Sie wollen sicherstellen, dass KI-generierte Notizen substanziell bearbeitet werden können, bevor sie in die klinische Akte eingehen.

▶ Was sollten Praxismanagerinnen und -manager bei der Planung einer KI-Dokumentations-Einführung in der psychischen Gesundheitsversorgung berücksichtigen?

Der Artikel identifiziert mehrere konkrete Planungsüberlegungen. Das Co-Design der Implementierung mit Behandelnden – einschließlich Einwilligungsprozessen, Opt-out-Mechanismen und Dokumentationsvorlagen – erhöht die Akzeptanz und reduziert Widerstand. Der Beginn mit administrativen Aufgaben wie Entlassbriefen und Überweisungen, anstatt mit Sitzungstranskriptionen, ermöglicht es Behandelnden, Vertrautheit aufzubauen, ohne sofort die Frage der therapeutischen Allianz zu berühren. Behandelnde benötigen schriftliche Zusicherungen zu Datenhaltung, Aufbewahrung und Zugriffskontrollen.

▶ Spiegelt die Zurückhaltung von Fachkräften gegenüber KI-Dokumentationstools in der psychischen Gesundheit ein Versagen digitaler Kompetenz wider?

Die Evidenz stützt diese Annahme nicht. Eine europäische Fallserie aus Kroatien ergab, dass der Widerstand von Psychiaterinnen und Psychiatern eher aus ethischen Dilemmata, Vertrauensdefiziten und institutionellen Faktoren als aus Technophobie resultierte. Der IEACP-Ethikrahmen und verwandte Literatur beschreiben Bedenken, die über praktische Barrieren wie digitale Kompetenz hinausgehen und sich auf Fragen zur Erosion des klinischen Urteilsvermögens erstrecken. Eine Übersicht in Molecular Psychiatry plädiert für eine „umsichtige Integration“, die „die menschenzentrierte Essenz der psychiatrischen Praxis“ wahrt.