11
Min. Lesezeit
KI-Dokumentation im kommunalen Gesundheitswesen: Bewertungsrahmen
Rahmenwerk für europäische Kommunen zur Bewertung von KI-Dokumentationsunterstützung in kommunalen Gesundheitsprogrammen. Umfasst EU-MDR, DSGVO (GDPR), Datensicherheit, Workflow-Integration und Governance

Kommunale Gesundheitsprogramme brauchen einen eigenen Bewertungsrahmen für KI-Dokumentationswerkzeuge. Die vorhandene Evidenz stammt aus Krankenhäusern und Hausarztpraxen, Umgebungen mit festen Sprechzimmern, eigener IT-Infrastruktur und geschützter Dokumentationszeit. Diese Bedingungen gibt es im kommunalen Kontext schlicht nicht.
Was ein KI-Dokumentationsassistent leistet und was nicht
Bevor eine regulatorische oder beschaffungsbezogene Bewertung beginnt, brauchen Verantwortliche eine genaue funktionale Definition des zu bewertenden Werkzeugs. Ein KI-Dokumentationsassistent hört einem klinischen Gespräch zu, wandelt gesprochene Inhalte mithilfe von automatischer Spracherkennung (ASR) in Text um und erstellt daraus eine strukturierte klinische Notiz. Er interpretiert keine klinischen Befunde, schlägt keine Diagnosen vor und kennzeichnet keine Risiken. Diese Funktionen gehören zur klinischen Entscheidungsunterstützung, die nach der EU-Medizinprodukteverordnung (EU-MDR) und dem EU-KI-Gesetz andere regulatorische Pflichten auslöst.
Die Grenze lässt sich mit einem praktischen Test ziehen: Wenn das Weglassen der Werkzeugausgabe das klinische Urteil des Behandlers nicht verändert, handelt es sich um einen Dokumentationsassistenten. Verändert die Ausgabe, was der Behandler als Nächstes entscheidet, handelt es sich um klinische Entscheidungsunterstützung. Der Rahmen von The Lancet Primary Care nutzt die Taxonomie digitaler Gesundheitsinterventionen der WHO, um genau diese Unterscheidung zu treffen. Er ist die stärkste verfügbare Orientierung für diesen Schritt, weil er die einzige publizierte Klassifikation ist, die explizit auf primärversorgungsnahe Kontexte zugeschnitten wurde. Wer beide Kategorien verwechselt, reguliert ein Dokumentationswerkzeug entweder zu stark oder ein Werkzeug mit klinischen Funktionen zu schwach.
MDR-Klassifizierung und EU-KI-Gesetz: Was zuerst zu klären ist
Die Klassifizierung nach der Medizinprodukteverordnung (Verordnung 2017/745, kurz MDR) ist die erste formale Feststellung vor jeder Beschaffungsentscheidung. Die zentrale Frage lautet: Ist das Werkzeug für Diagnose, Prävention, Überwachung, Behandlung oder Linderung von Krankheiten bestimmt? Ein Werkzeug, das klinische Gespräche nur erfasst und strukturiert, ohne deren Inhalt zu interpretieren, fällt in der Regel nicht in den Anwendungsbereich der MDR. Ein Werkzeug, das Risiko-Scores oder diagnostische Vorschläge erzeugt, fällt darunter.
Wird ein Werkzeug als Medizinprodukt eingestuft, muss der Hersteller eine CE-Kennzeichnung besitzen, eine Konformitätsbewertung abgeschlossen haben und Pflichten zur technischen Dokumentation sowie zur Marktüberwachung erfüllen. Hier liegt ein praktisches Problem, das Verantwortliche nicht unterschätzen sollten: eine Analyse der Auswirkungen des EU-KI-Gesetzes auf das Gesundheitswesen weist darauf hin, dass es zu wenige benannte Stellen gibt, die KI-basierte Medizinprodukte bewerten können. Eine CE-Kennzeichnung, die „in Kürze" erwartet wird, ist daher keine ausreichende Grundlage für eine Beschaffungsentscheidung.
Auch ein Werkzeug, das nicht als Medizinprodukt eingestuft wird, kann Pflichten nach dem KI-Gesetz auslösen, etwa wenn es als Hochrisiko-KI-System gilt, weil es klinische Entscheidungen beeinflusst, die die Patientensicherheit betreffen. Von jedem Anbieter sind daher folgende Unterlagen anzufordern: eine schriftliche Erklärung zur Zweckbestimmung; eine Bestätigung der MDR-Klassifizierung und deren Begründung; CE-Kennzeichnungsdokumentation oder eine klare Erklärung, warum das Werkzeug außerhalb des MDR-Anwendungsbereichs liegt; sowie einen Nachweis über die Beteiligung einer benannten Stelle.
DSGVO: Datenhaltung, Auftragsverarbeitung und Governance
Ein KI-Dokumentationsassistent verarbeitet Gesundheitsdaten über identifizierbare Personen. Das sind personenbezogene Daten besonderer Kategorien nach der DSGVO, die die strengsten Compliance-Pflichten auslösen. Kommunen handeln als Verantwortliche und tragen die primäre Rechenschaftspflicht.
Vor der Beschaffung sind fünf Punkte zu klären. Die Rechtsgrundlage stützt sich typischerweise auf Artikel 9 Absatz 2 Buchstabe h in Verbindung mit Artikel 6 Absatz 1 Buchstabe e für öffentliche Aufgaben; der Datenschutzbeauftragte (DSB) muss das bestätigen. Ein Auftragsverarbeitungsvertrag (AVV) gemäß Artikel 28 DSGVO muss vorliegen, bevor Daten verarbeitet werden. EU-Anforderungen zur Datenhaltung verlangen, dass Patientendaten innerhalb der EU oder des Europäischen Wirtschaftsraums (EWR) gespeichert und verarbeitet werden; vertragliche Garantien sind einzuholen. Anbieter müssen eine vollständige Liste aller Unterauftragsverarbeiter mit Standorten offenlegen. Schließlich ist zu klären, welche Daten das Werkzeug nach einer Konsultation aufbewahrt, wie lange und nach welcher Löschungsrichtlinie.
Der Europäische Gesundheitsdatenraum (EHDS), der 2025 in Kraft getreten ist, fügt eine weitere Governance-Ebene hinzu. Kommunen in EU-Mitgliedstaaten müssen das berücksichtigen, insbesondere wenn Patientendaten grenzüberschreitend abrufbar sind.
Sicherheitsbewertung: Zertifizierungen und praktische Kontrollen
ISO 27001 ist die Grundzertifizierung, die Verantwortliche verlangen sollten. Sie belegt, dass der Anbieter ein unabhängig geprüftes Informationssicherheits-Managementsystem betreibt. Verantwortliche sollten das aktuelle Zertifikat, den Geltungsbereich und das Datum der letzten Überwachungsprüfung anfordern. Schriftlich zu bestätigen sind: wer auf Patientendaten zugreifen kann und mit welchem Prüfpfad; dass Daten bei Übertragung und im Ruhezustand verschlüsselt sind; dass Audit-Protokolle für die Kommune verfügbar sind; dass der Anbieter Datenschutzverletzungen vertraglich innerhalb von 72 Stunden meldet; wie häufig unabhängige Penetrationstests stattfinden und ob die Ergebnisse einsehbar sind.
Nationale Rahmenwerke für die Sicherheit von Gesundheitsdaten, etwa von Cybersicherheitsbehörden in Frankreich, Deutschland oder den Niederlanden, können über ISO 27001 hinausgehende Anforderungen stellen. Kommunen sollten prüfen, ob ihr nationales Rahmenwerk für kommunale Gesundheitsdatensysteme gilt und ob die Anbieterzertifizierung diese Anforderungen abdeckt.
Warum kommunale Bedingungen eigene Tests erfordern
Ein Werkzeug, das in einer Krankenhausambulanz gut funktioniert, kann in einem kommunalen Gesundheitsumfeld deutlich schlechter abschneiden. Die Unterschiede sind struktureller Natur: Hausbesuche und schulärztliche Untersuchungen finden in wechselnden akustischen Umgebungen statt, viele Standorte haben unzuverlässigen Internetzugang, und die Begegnungen sind kürzer und weniger strukturiert als Krankenhaus- oder Hausarzttermine. Das Personal übernimmt innerhalb einer einzigen Begegnung oft gleichzeitig klinische, koordinierende und öffentliche Gesundheitsaufgaben. Gemeinsam genutzte oder private Geräte werfen zusätzliche Sicherheitsfragen auf.
Verantwortliche sollten Anbieter ausdrücklich fragen, ob das Werkzeug in kommunalen Gesundheits-, Hausbesuchs- oder Schulgesundheitskontexten getestet wurde, und Leistungsdaten aus diesen Umgebungen anfordern, nicht aus Krankenhausumgebungen. Eine multizentrische Implementierungsstudie zur klinischen Entscheidungsunterstützung in verschiedenen Primärversorgungsumgebungen zeigte, dass nutzerzentriertes Design und Workflow-Integrationstests entscheidend für den Einführungserfolg waren. Dieser Befund gilt für kommunale Kontexte noch stärker als für Praxen mit stabiler Infrastruktur.
Personal, Schulung und Verantwortlichkeit für Notizgenauigkeit
In pflegegeleiteten Diensten, Gesundheitsbesuchsprogrammen und Schulgesundheitsteams sind die primären Nutzer Pflegefachkräfte und kommunale Gesundheitsfachkräfte, keine Ärzte. Schulung und Veränderungsmanagement müssen auf diese Berufsgruppe zugeschnitten sein, da Materialien aus Hausarzt- oder Krankenhausumgebungen deren spezifische Anforderungen nicht abdecken.
Eine Querschnittsumfrage unter Gesundheitsfachkräften zu KI-Dokumentationswerkzeugen ergab, dass sowohl die Vertrautheit mit KI-Werkzeugen als auch das Wissen über institutionelle Richtlinien gering waren, selbst bei Fachkräften, die in Umgebungen arbeiteten, in denen solche Werkzeuge verfügbar waren. Technische Schulung ist notwendig, reicht aber nicht aus. Das Personal braucht begleitete Praxiserfahrung, um Vertrauen in die Werkzeugausgabe aufzubauen und zu erkennen, wann eine KI-generierte Notiz die klinische Begegnung nicht korrekt wiedergibt.
Dem gesamten Personal muss vor der Einführung klar kommuniziert werden, dass der Behandler, der die Begegnung durchgeführt hat, die volle berufliche und rechtliche Verantwortung für die Genauigkeit der Notiz trägt. Die KI-generierte Notiz ist ein Entwurf zur Überprüfung. Der Veränderungsmanagement-Prozess sollte Personalkonsultation vor der Einführung umfassen, eine schrittweise Einführung mit ausgewählten Early Adopters, laufende Feedback-Mechanismen und benannte klinische Verantwortliche für die Governance.
Genauigkeit bewerten: Pilot, Schwellenwerte und laufende Qualitätsprüfung
Die Genauigkeitsbewertung sollte nicht an Anbieter delegiert werden. Verantwortliche müssen zunächst festlegen, was „genau" für ihr Umfeld bedeutet: Welche Felder muss eine Hausbesuchsnotiz enthalten? Welche klinische Sprache ist angemessen? Welche Auslassungen stellen einen wesentlichen Fehler dar? Diese Akzeptanzschwellen sind vor Beginn des Pilotprojekts festzulegen. Wer das versäumt, riskiert, schlechte Ergebnisse im Nachhinein schönzureden.
Das Pilotprojekt selbst sollte eine Stichprobe realer Konsultationen über verschiedene Begegnungstypen umfassen. KI-generierte Notizen sind unabhängig mit vom Behandler geschriebenen Notizen zu vergleichen. Fehler, Auslassungen und Halluzinationen, also Fälle, in denen die KI Inhalte erzeugt, die nicht gesagt wurden, sind strukturiert zu erfassen. Nach der Einführung muss eine regelmäßige Stichprobenprüfung durch eine klinisch verantwortliche Person von Anfang an im Programmrahmen verankert sein.
Sprachliche Vielfalt: Genauigkeit über alle Bevölkerungsgruppen hinweg
Kommunale Gesundheitsprogramme versorgen häufig sprachlich vielfältige Bevölkerungen, besonders in städtischen Kommunen mit bedeutenden Migranten- oder Flüchtlingsgemeinschaften. Werkzeuge, die bei Standard-Niederländisch, -Deutsch oder -Englisch gut funktionieren, können bei akzentuierter Sprache, regionalen Dialekten oder Code-Switching deutlich schlechter abschneiden. The Lancet Primary Care nennt Chancengerechtigkeit als Kernprinzip für die KI-Integration in der kommunalen Versorgung: Werkzeuge, die bei verschiedenen Bevölkerungsgruppen unterschiedlich gut funktionieren, verstärken bestehende gesundheitliche Ungleichheiten.
Verantwortliche sollten Anbieter fragen, für welche Sprachen und Sprachvarianten das Werkzeug validiert wurde, wie groß der dokumentierte Genauigkeitsunterschied zwischen Standard- und Nicht-Standard-Varietäten ist und wie dolmetschervermittelte Konsultationen gehandhabt werden. Tests sollten Personal und Patienten einschließen, die für die tatsächliche Bevölkerungsvielfalt der Kommune repräsentativ sind, nicht nur die Mehrheitssprachgruppe. Ein Werkzeug, das diese Fragen nicht befriedigend beantworten kann, ist für viele kommunale Programme nicht geeignet.
IT-Integration: Altsysteme, Offline-Betrieb und Interoperabilität
Die technische Integration hat typischerweise die längste Vorlaufzeit und sollte früh bewertet werden. Kommunale IT-Umgebungen im öffentlichen Gesundheitswesen umfassen häufig ältere Systeme, die modernen Interoperabilitätsstandards vorausgehen. Die Analyse der Europäischen Kommission nennt fragmentierte Dateninfrastruktur und Altsysteme als eine der vier wichtigsten Hürden für die KI-Einführung in europäischen Gesundheitseinrichtungen. Für kommunale Programme trifft das besonders zu, da sie selten über eigene IT-Entwicklungskapazitäten verfügen.
Folgende Punkte sind zu klären: Ist das Werkzeug mit dem vorhandenen Praxisverwaltungssystem kompatibel, und wie erfolgt die Integration, über eine Programmierschnittstelle (API), den Standard HL7 FHIR oder proprietäre Konnektoren? Sind System-Upgrades als Voraussetzung erforderlich? Funktioniert das Werkzeug offline, und wie synchronisiert es Daten nach Wiederherstellung der Verbindung? Für Kommunen, die an grenzüberschreitenden Datenaustauschprogrammen teilnehmen, ist zudem die Konformität mit FHIR und HL7 zu prüfen. Ein Tutorial des Journal of Medical Internet Research (JMIR) zur Konformität mit dem KI-Gesetz im MyHealth@EU-Rahmen beschreibt die doppelte Compliance-Herausforderung: vertikale Sicherheits- und Ethikkontrollen nach dem KI-Gesetz und horizontale Interoperabilitätsanforderungen nach MyHealth@EU. Vor der Einführung muss eine vollständige Datenflusskarte erstellt und vom DSB geprüft werden.
Interne Governance und Beschaffung: Stakeholder und Business Case
Verantwortliche, die die Beschaffung vor allem als Technologiekauf behandeln, stoßen auf Verzögerungen und Einwände, die sich hätten vorhersehen lassen. Die Reihenfolge, in der interne Stakeholder einbezogen werden, ist dabei entscheidend. Der DSB muss von Anfang an einbezogen werden und eine Datenschutz-Folgenabschätzung gemäß Artikel 35 DSGVO durchführen; diese ist verpflichtend, wenn KI Gesundheitsdaten in großem Umfang verarbeitet. Die klinisch verantwortliche Person legt Qualitätsstandards fest und übernimmt die Verantwortung für die laufende Genauigkeitsprüfung. IT und Informationssicherheit bewerten die technische Integration und die Kompatibilität der Infrastruktur. Die Rechtsberatung prüft Anbieterverträge und die Haftungsposition der Kommune nach MDR, KI-Gesetz und nationalem Recht. Finanz- und Beschaffungsabteilung stellen die Einhaltung der Regeln für die öffentliche Auftragsvergabe sicher. Vertreter des klinischen Personals sollten von Beginn an in die Anforderungsdefinition und das Pilotdesign einbezogen werden; die Bewertung von WHO Europa nennt die Einbindung von Stakeholdern als entscheidenden Erfolgsfaktor bei der KI-Einführung.
Der Business Case für die Genehmigung sollte folgende Punkte ansprechen: die messbare Verringerung des Dokumentationsaufwands, Personalbindung und weniger Burnout, regulatorische Compliance als Pflicht des Risikomanagements sowie die Kosten des Nichthandelns. Die AICare@EU-Initiative der EU und die EU4Health-Förderung können Wege zur Ko-Finanzierung bieten; Verantwortliche sollten die aktuellen Förderkriterien als Teil der finanziellen Bewertung prüfen.
Checkliste vor der Einführung
Regulatorische Klassifizierung
Hat der Anbieter eine schriftliche Erklärung zur Zweckbestimmung bereitgestellt?
Wurde die MDR-Klassifizierung bestimmt und dokumentiert?
Wenn CE-gekennzeichnet: Ist das aktuelle Zertifikat verfügbar und innerhalb seiner Gültigkeitsdauer?
Wurde die Klassifizierung nach dem EU-KI-Gesetz bewertet?
DSGVO und Daten-Governance
Wurde eine Datenschutz-Folgenabschätzung eingeleitet und dem DSB zugewiesen?
Ist ein konformer AVV vorhanden oder vor Go-Live zur Unterzeichnung bereit?
Hat der Anbieter Datenhaltung in der EU oder im EWR bestätigt?
Wurde eine vollständige Liste der Unterauftragsverarbeiter eingeholt und geprüft?
Ist eine Datenflusskarte vollständig erstellt und vom DSB geprüft?
Sicherheit
Besitzt der Anbieter eine aktuelle ISO-27001-Zertifizierung mit relevantem Geltungsbereich?
Wurden Zugriffskontrollen, Audit-Protokolle und Meldefristen für Datenschutzverletzungen schriftlich bestätigt?
Hat der Anbieter Zeitplan und Ergebnisse von Penetrationstests offengelegt?
Wurden nationale Anforderungen für die Sicherheit von Gesundheitsdaten bewertet?
Workflow-Passung und Sprache
Wurde das Werkzeug in kommunalen Gesundheits-, Hausbesuchs- oder Schulgesundheitsumgebungen getestet?
Funktioniert das Werkzeug bei geringer Konnektivität oder offline?
Sind Notizvorlagen und strukturierte Ausgaben für die Begegnungstypen der Kommune geeignet?
Wurde das Werkzeug in den Sprachen und Dialekten der Bevölkerung validiert, einschließlich dolmetschervermittelter Konsultationen?
Personal und Qualität
Ist ein Schulungsprogramm für die spezifische Berufsgruppe vorhanden?
Ist die Verantwortlichkeit für die Notizgenauigkeit klar kommuniziert und dokumentiert?
Sind Akzeptanzschwellen für die Genauigkeit vor dem Pilotprojekt festgelegt?
Ist ein laufender Qualitätsprüfungsprozess in den Governance-Rahmen eingebettet?
IT-Integration und Governance
Ist die Kompatibilität mit dem Praxisverwaltungssystem bestätigt und der Integrationsmechanismus dokumentiert?
Wurde eine technische Bewertung der Einschränkungen durch Altsysteme abgeschlossen?
Wurden alle erforderlichen internen Stakeholder einbezogen?
Entspricht der Beschaffungsprozess den geltenden Regeln für die öffentliche Auftragsvergabe?
Häufig gestellte Fragen
▶ Warum benötigen kommunale Gesundheitsprogramme einen eigenen Bewertungsrahmen für KI-Dokumentationswerkzeuge?
Weil ein Werkzeug, das in einer Krankenhausambulanz validiert wurde, in einem kommunalen Programm an anderen Anforderungen scheitern kann, ohne dass das in den Herstellerunterlagen sichtbar wird. Verantwortliche brauchen eigene Akzeptanzschwellen und Pilotbedingungen, die ihre tatsächlichen Begegnungstypen abbilden.
▶ Was leistet ein KI-Dokumentationsassistent tatsächlich in einem kommunalen Gesundheitsumfeld?
Er erfasst das gesprochene Gespräch und erzeugt daraus eine strukturierte Notiz. Klinische Bewertungen, Diagnosevorschläge und Risikohinweise gehören nicht dazu. Der praktische Test: Würde das Personal dieselbe Entscheidung treffen, wenn die Werkzeugausgabe fehlte? Wenn ja, handelt es sich um einen Dokumentationsassistenten.
▶ Wie gilt die EU-Medizinprodukteverordnung (MDR) für KI-Dokumentationswerkzeuge in der kommunalen Gesundheitsversorgung?
Die MDR-Klassifizierung hängt an der Zweckbestimmung des Herstellers, nicht an der tatsächlichen Nutzung vor Ort. Verantwortliche sollten daher die schriftliche Zweckbestimmung des Anbieters aktiv anfordern und prüfen lassen, ob sie mit der geplanten Nutzung im kommunalen Programm übereinstimmt.
▶ Welche DSGVO-Verpflichtungen gelten, wenn eine Kommune einen KI-Dokumentationsassistenten zur Verarbeitung von Patientendaten verwendet?
Neben Auftragsverarbeitungsvertrag und Datenschutz-Folgenabschätzung sollten Verantwortliche konkret klären, welche Daten nach einer Konsultation beim Anbieter verbleiben und für wie lange. Diese Frage wird in Ausschreibungen häufig übergangen, ist aber für die Rechenschaftspflicht der Kommune entscheidend.
▶ Welche Sicherheitszertifizierungen und -kontrollen sollten Verantwortliche von KI-Dokumentationsanbietern verlangen?
ISO 27001 ist der Ausgangspunkt. Darüber hinaus sollten Verantwortliche das Datum der letzten Überwachungsprüfung und den genauen Geltungsbereich des Zertifikats prüfen, da ein Zertifikat, das die Gesundheitsdatenverarbeitung nicht explizit abdeckt, wenig Aussagekraft hat.
▶ Warum könnte ein im Krankenhaus validiertes KI-Dokumentationswerkzeug in kommunalen Gesundheitseinrichtungen anders funktionieren?
Hausbesuche und Schulgesundheitsuntersuchungen finden in wechselnden akustischen Umgebungen statt, oft mit instabiler Verbindung und auf gemeinsam genutzten Geräten. Anbieter sollten Leistungsdaten aus diesen Umgebungen vorlegen können. Fehlen solche Daten, ist das ein Ausschlusskriterium.
▶ Wer ist für die Genauigkeit KI-generierter klinischer Notizen in einem pflegegeleiteten kommunalen Gesundheitsdienst verantwortlich?
Die Behandlerin oder der Behandler, der die Begegnung durchgeführt hat, trägt die volle berufliche und rechtliche Verantwortung. Diese Zuordnung muss vor der Einführung schriftlich festgehalten und dem gesamten Personal aktiv kommuniziert werden, damit sie nicht im Alltag verschwimmt.
▶ Wie sollten Verantwortliche die Genauigkeit von KI-Dokumentationstools bewerten, bevor sie diese in einem kommunalen Gesundheitsprogramm einsetzen?
Akzeptanzschwellen müssen vor dem Pilotprojekt festgelegt werden, nicht danach. Wer erst im Nachhinein entscheidet, was „gut genug" ist, riskiert, schlechte Ergebnisse im Rückblick schönzureden. Halluzinationen, also Inhalte, die die KI erzeugt, ohne dass sie gesagt wurden, sind dabei als eigene Fehlerkategorie zu erfassen.
▶ Wie sollten Verantwortliche beurteilen, ob ein KI-Dokumentationstool sprachlich vielfältige kommunale Gesundheitspopulationen bedienen kann?
Anbieter sollten den dokumentierten Genauigkeitsunterschied zwischen Standardsprache und regionalen Varietäten oder akzentgeprägter Sprache offenlegen können. Können sie das nicht, sollte das Pilotprojekt diese Bevölkerungsgruppen gezielt einschließen, bevor eine Einführungsentscheidung fällt.
▶ Welche internen Stakeholder müssen bei der Beschaffung eines KI-Dokumentationsassistenten für ein kommunales Gesundheitsprogramm einbezogen werden?
Datenschutzbeauftragte, klinisch verantwortliche Person, IT und Informationssicherheit, Rechtsabteilung, Finanz- und Beschaffungsabteilung sowie Vertreter des klinischen Personals. Wer einzelne Gruppen erst nach der Grundsatzentscheidung einbezieht, riskiert Verzögerungen, die sich hätten vermeiden lassen.