Kommunale Gesundheitsprogramme nehmen eine besondere Stellung in der Gesundheitsversorgung ein. Sie sind über Schulen, Hausbesuche und lokale Gesundheitszentren verteilt, werden überwiegend von Pflegefachkräften und Gesundheitsbesuchern betreut und verfolgen eher bevölkerungsbezogene Ziele als einzelne Behandlungsepisoden. Wird KI-gestützte Dokumentationsunterstützung in dieses Umfeld eingeführt, lassen sich die Bewertungsfragen, die in einer Hausarztpraxis oder auf einer Krankenhausstation gelten, nicht ohne Weiteres auf das übertragen, was eine Kommune tatsächlich bewerten muss. Dieser Leitfaden bietet einen strukturierten Rahmen für Verantwortliche im öffentlichen Gesundheitswesen, die sich erstmals mit dieser Bewertung befassen. Er stützt sich auf aktuelle europäische Regulierungsanforderungen, veröffentlichte Implementierungsnachweise und die praktischen Gegebenheiten der kommunalen Gesundheitsversorgung.

Warum kommunale Gesundheitseinrichtungen einen eigenen Bewertungsrahmen benötigen

Die vorherrschende Evidenzbasis für KI-Dokumentationswerkzeuge im klinischen Umfeld stammt aus Krankenhäusern der stationären Versorgung und in geringerem Maße aus Hausarztpraxen. Beide Kontexte weisen Merkmale auf, die nicht widerspiegeln, wie kommunale Gesundheitsprogramme arbeiten: feste Sprechzimmer, dedizierte IT-Infrastruktur und Behandler mit geschützter Dokumentationszeit.

Die kommunale Gesundheitsversorgung wird typischerweise von Pflegefachkräften geleitet, findet an mehreren verteilten Standorten statt und ist um kurze, oft informelle Begegnungen herum strukturiert: eine schulärztliche Untersuchung, ein Hausbesuch bei einer frischgebackenen Mutter, eine offene Sprechstunde in einem Gemeindezentrum. Das Personal wechselt häufig zwischen Standorten, die Konnektivität ist unbeständig, und dieselbe Person kann gleichzeitig als Behandler, Pflegekoordinator und Fallmanager fungieren.

Die Bewertung der KI-Bereitschaft durch WHO/Europa in den EU-Mitgliedstaaten ergab, dass die Personalbereitschaft und die Strukturen für Daten-Governance zwischen nationalen Gesundheitssystemen und subnationalen Versorgungsebenen erheblich variieren. Dies unterstreicht, warum kommunale Verantwortliche nicht davon ausgehen können, dass ein auf Krankenhausebene validiertes Werkzeug in ihrem Umfeld angemessen funktioniert.

Die Analyse der Europäischen Kommission zu Hindernissen bei der KI-Einführung in der klinischen Praxis identifiziert vier verschiedene Kategorien von Herausforderungen: technologische und datenbezogene Herausforderungen, regulatorische Komplexität, organisatorische und finanzielle Barrieren sowie soziale und kulturelle Faktoren. In kommunalen Gesundheitsprogrammen treten alle vier Kategorien besonders stark auf, was einen maßgeschneiderten Bewertungsrahmen erforderlich macht.

Eine systematische Übersichtsarbeit zu E-Health-Implementierungsfaktoren in der hausärztlichen Versorgung, stationären Versorgung und häuslichen Pflege ergab, dass eine erfolgreiche Einführung von Faktoren abhing, die gleichzeitig auf der Ebene der Technologie selbst, des äußeren organisatorischen Umfelds, des inneren Versorgungskontexts und der einzelnen Fachkräfte wirken. Kommunale Gesundheitsprogramme umfassen all diese Ebenen auf eine Weise, wie es Krankenhauseinführungen typischerweise nicht tun.

Was ein KI-Dokumentationsassistent im kommunalen Gesundheitskontext tatsächlich leistet

Bevor eine regulatorische oder Beschaffungsbewertung beginnt, benötigen Verantwortliche eine präzise funktionale Definition des zu bewertenden Werkzeugs. Eine Fehlklassifizierung in diesem Stadium führt zu nachgelagerten Compliance-Fehlern, die schwer zu korrigieren sind.

Ein KI-Dokumentationsassistent im kommunalen Gesundheitskontext leistet Folgendes:

• Er hört einem klinischen Gespräch zwischen einer Gesundheitsfachkraft und einem Patienten oder Familienmitglied zu.

• Er wandelt gesprochene Inhalte in Echtzeit mithilfe von Sprache-zu-Text-Technologie (automatische Spracherkennung, ASR) in Text um.

• Er erstellt aus dieser Transkription eine strukturierte klinische Notiz oder Zusammenfassung.

• Er reduziert den Dokumentationsaufwand für den Behandler, indem er die Notizerstellung automatisiert.

Was er nicht tut: Er interpretiert keine klinischen Befunde, schlägt keine Diagnosen vor, empfiehlt keine Behandlungen und kennzeichnet keine klinischen Risiken. Diese Funktionen definieren die klinische Entscheidungsunterstützung, die sowohl nach der EU-Medizinprodukteverordnung (MDR) als auch nach dem EU-KI-Gesetz unterschiedliche regulatorische Verpflichtungen mit sich bringt. Diese Unterscheidung ist regulatorisch relevant.

Der Rahmen von The Lancet Primary Care zur Kategorisierung von KI-Anwendungen in der Primärversorgung nutzt die Taxonomie digitaler Gesundheitsinterventionen der Weltgesundheitsorganisation, um genau diese Unterscheidung zu treffen und Werkzeuge, die Dokumentation und Kommunikation unterstützen, von solchen zu trennen, die klinische Orientierung bieten. Verantwortliche, die diese beiden Kategorien verwechseln, riskieren entweder, ein Dokumentationswerkzeug überzuregulieren oder ein Werkzeug unterzuregulieren, das tatsächlich klinische Funktionen ausführt.

Ein praktischer Test: Wenn das Entfernen der Ausgabe des KI-Werkzeugs aus einer Konsultation das klinische Urteil des Behandlers unverändert lassen würde, funktioniert das Werkzeug als Dokumentationsassistent. Wenn die Ausgabe des Werkzeugs beeinflusst, was der Behandler als Nächstes entscheidet, handelt es sich um klinische Entscheidungsunterstützung.

MDR-Klassifizierung: Was kommunale Verantwortliche zuerst bestimmen müssen

Die Klassifizierung nach der MDR (Verordnung 2017/745) ist die erste formale Feststellung, die vor jeder Beschaffungsentscheidung getroffen werden muss. Ein Fehler hierbei setzt die Kommune rechtlicher Haftung und einem Patientensicherheitsrisiko aus.

Die zentrale Frage ist, ob der KI-Dokumentationsassistent die MDR-Definition eines Medizinprodukts erfüllt, insbesondere ob er für die Diagnose, Prävention, Überwachung, Behandlung oder Linderung von Krankheiten bestimmt ist. Ein Werkzeug, das nur klinische Gespräche erfasst und strukturiert, ohne deren klinischen Inhalt zu interpretieren, fällt im Allgemeinen nicht in den Anwendungsbereich der MDR. Ein Werkzeug, das klinische Empfehlungen, Risiko-Scores oder diagnostische Vorschläge generiert, fällt darunter.

Die Konvergenz von MDR, Datenschutz-Grundverordnung (DSGVO) und dem EU-KI-Gesetz bedeutet, dass selbst ein als Nicht-Medizinprodukt klassifiziertes Werkzeug dennoch Verpflichtungen nach dem KI-Gesetz mit sich bringen kann, wenn es als Hochrisiko-KI-System betrachtet wird, beispielsweise wenn es so verwendet wird, dass es klinische Entscheidungen beeinflusst, die die Patientensicherheit betreffen.

Wenn ein Werkzeug als Medizinprodukt klassifiziert wird:

• Muss der Hersteller eine CE-Kennzeichnung nach MDR besitzen.

• Muss eine Konformitätsbewertung durchgeführt worden sein, möglicherweise unter Einbeziehung einer benannten Stelle.

• Gelten Verpflichtungen zur technischen Dokumentation, Marktüberwachung nach dem Inverkehrbringen und Meldung von Vorkommnissen.

• Übernimmt die Kommune als Anwender spezifische Verpflichtungen als Wirtschaftsakteur.

Eine Analyse der Auswirkungen des EU-KI-Gesetzes auf das Gesundheitswesen weist darauf hin, dass ein praktischer Engpass in der Verfügbarkeit benannter Stellen besteht, die die Kapazität zur Bewertung KI-basierter Medizinprodukte haben. Verantwortliche sollten Anbieter direkt nach dem aktuellen Status ihrer Konformitätsbewertung fragen und nicht davon ausgehen, dass die CE-Kennzeichnung unmittelbar bevorsteht, wenn sie noch nicht erteilt wurde.

Verantwortliche sollten von jedem Anbieter Folgendes anfordern:

• Eine schriftliche Erklärung zur Zweckbestimmung.

• Bestätigung der MDR-Klassifizierung und deren Grundlage.

• CE-Kennzeichnungsdokumentation, falls zutreffend, oder eine klare Erklärung, warum das Werkzeug außerhalb des MDR-Anwendungsbereichs fällt.

• Nachweis einer Beteiligung einer benannten Stelle.

DSGVO und Datenhaltung: Zentrale Fragen für Kommunen, die Patientendaten verarbeiten

Ein KI-Dokumentationsassistent verarbeitet personenbezogene Daten besonderer Kategorien gemäß DSGVO, insbesondere Gesundheitsdaten über identifizierbare Personen. Dies löst die strengste Stufe der DSGVO-Verpflichtungen aus. Kommunen als Verantwortliche tragen die primäre Rechenschaftspflicht dafür, dass diese Verpflichtungen erfüllt werden.

Die zentralen DSGVO-Fragen, die kommunale Verantwortliche vor der Beschaffung klären müssen, sind:

Rechtsgrundlage: Kommunale Gesundheitsprogramme stützen sich typischerweise auf Artikel 9 Absatz 2 Buchstabe h, Verarbeitung, die für Zwecke der Gesundheitsvorsorge oder Arbeitsmedizin, für die medizinische Diagnostik oder die Bereitstellung von Gesundheitsversorgung erforderlich ist, in Kombination mit Artikel 6 Absatz 1 Buchstabe e für öffentliche Aufgaben. Verantwortliche sollten mit ihrem Datenschutzbeauftragten (DSB) bestätigen, dass diese Grundlage ordnungsgemäß dokumentiert ist.

Auftragsverarbeitungsvertrag: Wenn ein Anbieter Patientendaten im Auftrag der Kommune verarbeitet, muss ein Auftragsverarbeitungsvertrag (AVV) gemäß Artikel 28 DSGVO vorliegen, bevor Daten verarbeitet werden. Der AVV muss Gegenstand, Dauer, Art und Zweck der Verarbeitung, die Art der personenbezogenen Daten und die Kategorien betroffener Personen sowie die Pflichten und Rechte des Verantwortlichen festlegen.

Datenhaltung: EU-Anforderungen zur Datenhaltung in der EU für Gesundheitsdaten sind ein wesentliches Beschaffungskriterium. Kommunen sollten verlangen, dass Patientendaten innerhalb der EU oder des Europäischen Wirtschaftsraums (EWR) gespeichert und verarbeitet werden, und sollten vertragliche Garantien dafür einholen. Wenn ein Anbieter Unterauftragsverarbeiter einsetzt, beispielsweise Cloud-Infrastrukturanbieter, muss der Standort jedes Unterauftragsverarbeiters offengelegt und bewertet werden.

Transparenz bei Unterauftragsverarbeitern: Anbieter müssen eine vollständige Liste der Unterauftragsverarbeiter bereitstellen können, die an der Verarbeitung von Patientendaten beteiligt sind, mit deren Standorten und den Schutzmaßnahmen für etwaige Übermittlungen außerhalb der EU oder des EWR.

Datenminimierung und Aufbewahrung: Verantwortliche sollten bestätigen, welche Daten das Werkzeug nach einer Konsultation aufbewahrt, wie lange und nach welcher Löschungs- oder Anonymisierungsrichtlinie.

Der Europäische Gesundheitsdatenraum (EHDS), der 2025 in Kraft getreten ist, fügt eine weitere Ebene von Verpflichtungen zur Daten-Governance hinzu, die Kommunen in EU-Mitgliedstaaten in ihre Bewertung einbeziehen müssen, insbesondere wenn Patientendaten grenzüberschreitend abgerufen werden können.

Bewertung der Sicherheitslage des Anbieters: Welche Zertifizierungen und Kontrollen zu beachten sind

Die Sicherheitsbewertung eines Anbieters von KI-Dokumentationsassistenten ist keine einmalige Abhakübung. Sie erfordert von Verantwortlichen die Bewertung sowohl der formalen Zertifizierungen des Anbieters als auch der praktischen Kontrollen, die er implementiert hat.

ISO 27001 ist die Basiszertifizierung, die Verantwortliche verlangen sollten. Sie belegt, dass der Anbieter ein Informationssicherheits-Managementsystem (ISMS) implementiert hat, das unabhängig geprüft wurde. Verantwortliche sollten das aktuelle Zertifikat, dessen Geltungsbereich und das Datum der letzten Überwachungsprüfung anfordern.

Über ISO 27001 hinaus sollten Verantwortliche Anbieter direkt fragen nach:

• Zugriffskontrollen: Wer innerhalb der Anbieterorganisation kann auf Patientendaten zugreifen, unter welchen Bedingungen und mit welchem Prüfpfad?

• Verschlüsselung: Werden Daten bei der Übertragung und im Ruhezustand verschlüsselt? Welche Verschlüsselungsstandards werden verwendet?

• Audit-Protokolle: Werden Zugriffs- und Verarbeitungsereignisse protokolliert, und kann die Kommune auf diese Protokolle zugreifen?

• Meldung von Datenschutzverletzungen: Welche vertragliche Verpflichtung hat der Anbieter hinsichtlich der Fristen für die Meldung von Datenschutzverletzungen? Die DSGVO verlangt die Meldung an Aufsichtsbehörden innerhalb von 72 Stunden nach Bekanntwerden einer Verletzung, und Anbieter müssen in der Lage sein, diese Frist einzuhalten.

• Penetrationstests: Wie häufig wird das System unabhängig auf Schwachstellen getestet, und sind Berichte verfügbar?

• Sicherheit der Unterauftragsverarbeiter: Welche Sicherheitsanforderungen stellt der Anbieter an seine Unterauftragsverarbeiter, und wie wird die Einhaltung überprüft?

Die Anforderungen des EU-KI-Gesetzes an Hochrisiko-KI-Systeme umfassen Verpflichtungen hinsichtlich Robustheit, Genauigkeit und Cybersicherheit, die Anbieter von betroffenen Werkzeugen durch technische Dokumentation nachweisen müssen. Verantwortliche sollten fragen, ob das Werkzeug nach dem KI-Gesetz bewertet wurde und, falls ja, mit welcher Risikoeinstufung.

Nationale Rahmenwerke für die Sicherheit von Gesundheitsdaten, wie sie von nationalen Cybersicherheitsbehörden in Frankreich, Deutschland oder den Niederlanden betrieben werden, können zusätzliche Anforderungen über ISO 27001 hinaus stellen. Kommunen sollten prüfen, ob ihr nationales Rahmenwerk für kommunale Gesundheitsdatensysteme gilt und ob die Anbieterzertifizierung dies abdeckt.

Passung zum Workflow in der kommunalen Versorgung: Warum im Krankenhaus validierte Werkzeuge möglicherweise nicht direkt übertragbar sind

Ein Werkzeug, das in einer Krankenhausambulanz oder einem Hausarztzimmer gut funktioniert, kann in einem kommunalen Gesundheitsumfeld erheblich anders abschneiden. Verantwortliche sollten Validierungsnachweise aus Krankenhäusern oder Hausarztpraxen nicht als ausreichenden Beweis für die Eignung in der kommunalen Gesundheitsversorgung betrachten.

Die Workflow-Merkmale, die die kommunale Gesundheitsversorgung auszeichnen, umfassen:

• Mobile und häusliche Konsultationen: Der Behandler befindet sich nicht in einer festen akustischen Umgebung. Hintergrundgeräusche, variable Mikrofonqualität und die physische Entfernung von einem Gerät beeinflussen die Transkriptionsgenauigkeit auf eine Weise, wie es kontrollierte klinische Umgebungen nicht tun.

• Unbeständige Konnektivität: Viele kommunale Gesundheitsbesuche finden an Orten mit unzuverlässigem Internetzugang statt. Verantwortliche müssen feststellen, ob das Werkzeug kontinuierliche Konnektivität erfordert oder offline funktionieren und bei Wiederherstellung der Verbindung synchronisieren kann.

• Kurze Konsultationen: Kommunale Gesundheitsbegegnungen sind oft kürzer und weniger strukturiert als Krankenhaus- oder Hausarzttermine, mit weniger vorhersehbarer klinischer Sprache und mehr konversationellem Austausch.

• Personal mit mehreren Rollen: Kommunale Gesundheitsfachkräfte und Gesundheitsbesucher üben häufig Funktionen aus, die klinische Beurteilung, Koordination der Sozialfürsorge und Überwachung der öffentlichen Gesundheit umfassen. Die Notizvorlagen und strukturierten Ausgaben des Werkzeugs müssen diese Breite widerspiegeln.

• Gemeinsam genutzte oder persönliche Geräte: Im Gegensatz zu Krankenhausumgebungen, in denen Geräte typischerweise fest installiert und verwaltet werden, können kommunale Gesundheitsfachkräfte gemeinsam genutzte Tablets oder persönliche Geräte verwenden, was zusätzliche Sicherheits- und Zugriffskontrollfragen aufwirft.

Der Rahmen von The Lancet Primary Care betont, dass KI-Werkzeuge in der Primär- und kommunalen Versorgung anhand des tatsächlichen Versorgungsmodells bewertet werden müssen, nicht anhand einer verallgemeinerten klinischen Begegnung. Verantwortliche sollten Anbieter ausdrücklich fragen, ob das Werkzeug in kommunalen Gesundheits-, Hausbesuchs- oder Schulgesundheitskontexten getestet oder eingesetzt wurde, und Leistungsdaten aus diesen Umgebungen anfordern, nicht aus Krankenhausumgebungen.

Eine multizentrische Implementierungsstudie zur klinischen Entscheidungsunterstützung in verschiedenen Primärversorgungsumgebungen ergab, dass benutzerzentriertes Design und Workflow-Integrationstests entscheidende Determinanten für den Adoptionserfolg waren. Diese Erkenntnisse gelten direkt für KI-Dokumentationswerkzeuge in der kommunalen Gesundheitsversorgung.

Personalrollen und Schulungsanforderungen in pflegegeleiteten und schulärztlichen Diensten

Die Belegschaft in kommunalen Gesundheitsprogrammen unterscheidet sich von Krankenhaus- oder Hausarztumgebungen auf eine Weise, die sowohl Schulungsanforderungen als auch Verantwortungsstrukturen betrifft. Verantwortliche müssen diese Unterschiede vor der Einführung explizit adressieren.

Wer wird das Werkzeug verwenden? In pflegegeleiteten Diensten, Gesundheitsbesuchsprogrammen und Schulgesundheitsteams sind die primären Nutzer Pflegefachkräfte, Gesundheitsbesucher und kommunale Gesundheitsfachkräfte, keine Ärzte. Schulung und Change Management müssen für diese Belegschaft konzipiert werden, nicht aus Materialien adaptiert werden, die für Hausarzt- oder Krankenhauskontexte entwickelt wurden.

Technische Schulung versus Vertrauensbildung: Eine Querschnittsumfrage unter Gesundheitsfachkräften zu KI-Dokumentationswerkzeugen ergab, dass die Vertrautheit mit KI-Werkzeugen und das Bewusstsein für institutionelle Richtlinien beide gering waren, selbst unter Fachkräften, die in Umgebungen arbeiteten, in denen KI-Werkzeuge verfügbar waren. Technische Schulung, die die Bedienung des Werkzeugs abdeckt, ist notwendig, aber nicht ausreichend. Das Personal benötigt auch begleitete Erfahrung, um Vertrauen in die Ausgabe des Werkzeugs aufzubauen und das kritische Urteilsvermögen zu entwickeln, um zu erkennen, wann die KI-generierte Notiz die klinische Begegnung nicht genau widerspiegelt.

Verantwortlichkeit für die Genauigkeit von Notizen: Wenn ein KI-Assistent eine klinische Notiz erstellt, behält der Behandler, der die Begegnung durchgeführt hat, die volle berufliche und rechtliche Verantwortung für die Genauigkeit dieser Notiz. Dies muss dem gesamten Personal vor der Einführung klar und unmissverständlich kommuniziert und in Schulungsmaterialien integriert werden. Die KI-generierte Notiz ist ein Entwurf zur Überprüfung durch den Behandler, keine endgültige Aufzeichnung.

Change Management: Die regionale Bewertung von WHO/Europa identifiziert die Personalbereitschaft als eine der bedeutendsten Barrieren für die KI-Adoption in Gesundheitssystemen in der europäischen Region. Verantwortliche sollten einen strukturierten Change-Management-Prozess planen, der Folgendes umfasst:

• Personalkonsultation vor der Einführung

• Schrittweise Einführung mit designierten Early Adopters

• Fortlaufende Feedback-Mechanismen

• Benannte klinische Leiter für Governance und Qualitätssicherung

Qualität und Genauigkeit klinischer Notizen: Wie man vor der Einführung bewertet

Die Genauigkeitsbewertung ist nichts, was Verantwortliche vollständig an Anbieter delegieren sollten. Ein strukturierter Bewertungsprozess vor der Einführung, der im eigenen klinischen Kontext der Kommune durchgeführt wird, ist unerlässlich.

Definieren Sie, was „genau“ für Ihr Umfeld bedeutet. Eine klinische Notiz, die für einen Hausbesuch eines Gesundheitsbesuchers erstellt wurde, hat andere strukturelle Anforderungen als eine Hausarzt-Konsultationsnotiz oder ein Entlassbrief aus dem Krankenhaus. Verantwortliche sollten im Voraus definieren, wie eine zufriedenstellende Notiz für jeden Begegnungstyp in ihrem Programm aussieht: welche Felder vorhanden sein müssen, welche klinische Sprache angemessen ist und welche Auslassungen einen wesentlichen Fehler darstellen würden.

Führen Sie ein strukturiertes Pilotprojekt durch. Vor der vollständigen Einführung ermöglicht ein zeitlich begrenztes Pilotprojekt mit einer definierten Gruppe von Mitarbeitenden und einem definierten Satz von Begegnungstypen den Verantwortlichen, die Genauigkeit in ihrem spezifischen Kontext zu bewerten. Das Pilotprojekt sollte Folgendes umfassen:

• Eine Stichprobe realer Konsultationen über verschiedene Begegnungstypen hinweg

• Unabhängige Überprüfung KI-generierter Notizen im Vergleich zu vom Behandler geschriebenen Notizen oder der Erinnerung des Behandlers

• Strukturierte Aufzeichnung von Fehlern, Auslassungen und Halluzinationen (Fälle, in denen die KI Inhalte generiert, die nicht gesagt wurden)

• Feedback des Personals zu Benutzerfreundlichkeit und Workflow-Passung

Legen Sie Akzeptanzschwellen fest. Verantwortliche sollten vor Beginn des Pilotprojekts definieren, welches Genauigkeitsniveau akzeptabel ist und welche Fehlerrate eine Entscheidung auslösen würde, nicht fortzufahren. Dies verhindert nachträgliche Rationalisierung schlechter Ergebnisse.

Etablieren Sie eine fortlaufende Qualitätsprüfung. Die Einführung sollte den Genauigkeitsbewertungsprozess nicht beenden. Eine regelmäßige Überprüfung einer Stichprobe KI-generierter Notizen, durchgeführt von einem klinischen Governance-Leiter, sollte von Anfang an in den Governance-Rahmen des Programms integriert werden.

Eine belgische cluster-randomisierte Studie zur klinischen Entscheidungsunterstützung in der Primärversorgung ergab, dass unvollständige strukturierte Aufzeichnungen eine Hauptursache für niedrige Systemnutzungsraten waren. Dies unterstreicht die Bedeutung, sicherzustellen, dass KI-generierte Notizen die strukturierten Datenanforderungen des Praxisverwaltungssystems der Kommune erfüllen, bevor sie eingeführt werden.

Überlegungen zu Sprache, Dialekt und Bevölkerungsvielfalt

Kommunale Gesundheitsprogramme versorgen häufig sprachlich vielfältige Bevölkerungen. Dies gilt insbesondere für städtische Kommunen mit bedeutenden Migranten- oder Flüchtlingsgemeinschaften und in Regionen mit Minderheitensprachgruppen. KI-Dokumentationswerkzeuge, die bei der Verarbeitung von Standard-Englisch, -Niederländisch oder -Deutsch gut funktionieren, können bei der Verarbeitung von akzentuierter Sprache, regionalen Dialekten oder Code-Switching zwischen Sprachen erheblich schlechter abschneiden.

The Lancet Primary Care identifiziert Gerechtigkeit als Kernprinzip für die KI-Integration in der Primär- und kommunalen Versorgung und weist darauf hin, dass Werkzeuge, die bei verschiedenen Bevölkerungsgruppen unterschiedlich funktionieren, das Risiko bergen, bestehende gesundheitliche Ungleichheiten zu verstärken, anstatt sie zu verringern. Für kommunale Gesundheitsprogramme mit einem expliziten bevölkerungsbezogenen Gesundheitsauftrag ist dies keine abstrakte Sorge, sondern eine Governance-Verpflichtung.

Verantwortliche sollten Anbieter fragen:

• In welchen Sprachen und Sprachvarianten wurde das Werkzeug validiert?

• Was ist der dokumentierte Genauigkeitsunterschied zwischen Standard- und Nicht-Standard-Sprachvarietäten in diesen Sprachen?

• Wie geht das Werkzeug mit Konsultationen um, die teilweise oder vollständig über einen Dolmetscher durchgeführt werden?

• Was ist die Roadmap des Anbieters für die Erweiterung der Sprachabdeckung?

Tests sollten Konsultationen mit Personal und Patienten einschließen, die für die tatsächliche Bevölkerungsvielfalt der Kommune repräsentativ sind, nicht nur für die Mehrheitssprachgruppe. Wenn das Werkzeug keine akzeptable Genauigkeit über die primären Sprachgruppen der Kommune hinweg nachweisen kann, sollte es nicht in Diensten eingesetzt werden, in denen diese Bevölkerungen versorgt werden.

Integration mit bestehenden Praxisverwaltungssystemen und kommunaler IT

Die technische Integration ist häufig das Element mit der längsten Vorlaufzeit bei der Einführung eines KI-Dokumentationsassistenten. Verantwortliche sollten diese Bewertung frühzeitig beginnen und sie nicht als Implementierungsfrage der letzten Phase behandeln.

Die zentralen Integrationsfragen sind:

Kompatibilität mit dem Praxisverwaltungssystem: Mit welchen Praxisverwaltungssystemen integriert das Werkzeug derzeit, und über welchen Mechanismus? Direkte Integration über eine Programmierschnittstelle (API), HL7 Fast Healthcare Interoperability Resources (FHIR) oder proprietäre Konnektoren bringen jeweils unterschiedliche Implementierungskomplexität und Wartungsverpflichtungen mit sich.

Einschränkungen durch Altsysteme: Die Analyse der Europäischen Kommission identifiziert fragmentierte Dateninfrastruktur und Altsysteme als eine der vier primären Barrieren für die KI-Einführung in europäischen Gesundheitseinrichtungen. Kommunale öffentliche Gesundheits-IT-Umgebungen umfassen häufig ältere Systeme, die modernen Interoperabilitätsstandards vorausgehen. Verantwortliche sollten eine klare technische Bewertung einholen, ob das KI-Werkzeug innerhalb ihrer bestehenden Infrastruktur funktionieren kann oder System-Upgrades als Voraussetzung erfordert.

MyHealth@EU- und FHIR-Konformität: Ein JMIR-Tutorial zur KI-Gesetz-Konformität im MyHealth@EU-Rahmen beschreibt die doppelte Compliance-Herausforderung, der sich Anwender von Gesundheits-KI gegenübersehen: vertikale Sicherheits- und Ethikkontrollen nach dem KI-Gesetz und horizontale Interoperabilitätsanforderungen nach MyHealth@EU unter Verwendung von FHIR- und HL7-Standards. Kommunen, die Teil grenzüberschreitender Gesundheitsdatenaustauschprogramme sind, müssen sicherstellen, dass die Ausgabe des KI-Werkzeugs mit diesen Standards kompatibel ist.

Offline-Funktionalität: Für kommunale Gesundheitsumgebungen mit unbeständiger Konnektivität müssen Verantwortliche bestätigen, ob das Werkzeug Konsultationen offline erfassen und verarbeiten kann und wie die Synchronisierung mit dem zentralen Praxisverwaltungssystem gehandhabt wird, wenn die Konnektivität wiederhergestellt ist.

Datenfluss-Mapping: Vor der Einführung muss eine vollständige Datenflusskarte erstellt werden, die zeigt, wo Daten erstellt, verarbeitet, gespeichert und gelöscht werden, und vom DSB überprüft werden. Dies ist sowohl eine DSGVO-Anforderung als auch ein praktisches Governance-Werkzeug.

Beschaffung und Governance: Aufbau des internen Falls für die Genehmigung

Die kommunale Beschaffung eines KI-Dokumentationsassistenten betrifft Stakeholder aus mehreren Funktionen, und die Reihenfolge, in der sie einbezogen werden, ist wichtig. Verantwortliche, die die Beschaffung primär als Technologiekauf und nicht als Governance-Prozess angehen, stoßen typischerweise auf Verzögerungen und Einwände, die hätten antizipiert werden können.

Die internen Stakeholder, die einbezogen werden müssen, und die Reihenfolge, die gute Governance-Praxis widerspiegelt, sind:

Datenschutzbeauftragter: Der DSB sollte von Anfang an einbezogen werden, nicht erst am Ende konsultiert werden. Der DSB muss eine Datenschutz-Folgenabschätzung (DSFA) gemäß Artikel 35 DSGVO durchführen oder überwachen, die obligatorisch ist, wenn die Verarbeitung wahrscheinlich ein hohes Risiko für Personen zur Folge hat, wie es bei der KI-Verarbeitung von Gesundheitsdaten in großem Umfang der Fall ist.

Klinischer Governance-Leiter: Diese Person muss die klinischen Qualitätsstandards definieren, die das Werkzeug erfüllen muss, die Pilotbewertung überwachen und die Verantwortung für den fortlaufenden Genauigkeitsprüfungsprozess übernehmen.

IT und Informationssicherheit: Dieses Team muss die technische Integrationsmachbarkeit, Sicherheitsarchitektur und Kompatibilität mit bestehender Infrastruktur bewerten, bevor eine Beschaffungsentscheidung finalisiert wird.

Rechtsberatung: Die Rechtsberatung muss Anbieterverträge, einschließlich des AVV, überprüfen und die Haftungsposition der Kommune nach MDR, dem KI-Gesetz und anwendbarem nationalem Recht bewerten.

Finanzen und Beschaffung: Diese Funktion muss sicherstellen, dass der Beschaffungsprozess den geltenden öffentlichen Beschaffungsregeln entspricht, was in EU-Mitgliedstaaten typischerweise die Einhaltung der Vergaberichtlinie für Verträge über Schwellenwerten bedeutet.

Vertreter des klinischen Personals: Das Personal sollte in die Anforderungsdefinition und das Pilotdesign einbezogen werden. Die Bewertung von WHO/Europa identifiziert Stakeholder-Engagement als Schlüsseldeterminante für den KI-Adoptionserfolg auf Systemebene. Dies gilt gleichermaßen auf Programmebene.

Der Business Case für die Genehmigung sollte Folgendes adressieren:

• Quantifizierte Reduzierung des Dokumentationsaufwands für Pflege- und kommunales Gesundheitspersonal

• Personalbindung und Burnout-Reduzierung als Argument für die Nachhaltigkeit der Belegschaft

• Regulatorische Compliance als Risikomanagement-Verpflichtung, nicht als optionale Verbesserung

• Kosten der Einführung einschließlich Schulung, Integration und fortlaufender Governance

• Risiken des Nichthandelns, einschließlich fortgesetztem Dokumentationsaufwand und damit verbundener Personalfluktuation

Die AICare@EU-Initiative der EU und EU4Health-Förderung können Ko-Finanzierungswege für Kommunen in Mitgliedstaaten bieten. Verantwortliche sollten die aktuellen Förderkriterien als Teil der finanziellen Bewertung prüfen.

Eine Checkliste vor der Einführung für kommunale Gesundheitsverantwortliche

Die folgende Checkliste konsolidiert die wichtigsten Bewertungsfragen aus jedem Abschnitt dieses Leitfadens. Sie ist als praktische Referenz für Verantwortliche konzipiert, die von der Bewertung zur Beschaffungsentscheidung übergehen.

Regulatorische Klassifizierung

• Hat der Anbieter eine schriftliche Erklärung zur Zweckbestimmung bereitgestellt?

• Wurde die MDR-Klassifizierung bestimmt, und ist die Grundlage für diese Klassifizierung dokumentiert?

• Wenn CE-gekennzeichnet, ist das aktuelle Zertifikat verfügbar und innerhalb seiner Gültigkeitsdauer?

• Wurde die Klassifizierung des Werkzeugs nach dem EU-KI-Gesetz bewertet?

DSGVO und Daten-Governance

• Wurde eine DSFA eingeleitet und dem DSB zugewiesen?

• Ist ein konformer AVV vorhanden oder zur Unterzeichnung vor Go-Live bereit?

• Hat der Anbieter die Datenhaltung in der EU oder im EWR für Speicherung und Verarbeitung bestätigt?

• Wurde eine vollständige Liste der Unterauftragsverarbeiter eingeholt und überprüft?

• Ist eine Datenflusskarte vollständig und überprüft?

Sicherheit

• Besitzt der Anbieter eine aktuelle ISO-27001-Zertifizierung, und deckt deren Geltungsbereich die relevanten Systeme ab?

• Wurden Zugriffskontrollen, Verfügbarkeit von Audit-Protokollen und Fristen für die Meldung von Datenschutzverletzungen schriftlich bestätigt?

• Hat der Anbieter seinen Penetrationstest-Zeitplan offengelegt und Ergebnisse verfügbar gemacht?

• Wurden die Anforderungen des nationalen Rahmenwerks für die Sicherheit von Gesundheitsdaten bewertet und erfüllt?

Workflow-Passung

• Wurde das Werkzeug in kommunalen Gesundheits-, Hausbesuchs- oder Schulgesundheitsumgebungen getestet oder eingesetzt?

• Sind Leistungsdaten aus diesen Umgebungen speziell verfügbar?

• Funktioniert das Werkzeug unter Bedingungen geringer Konnektivität oder offline?

• Sind Notizvorlagen und strukturierte Ausgaben für die Begegnungstypen der Kommune geeignet?

Personalbereitschaft

• Ist ein Schulungsprogramm vorhanden, das für die spezifische Belegschaft (Pflegefachkräfte, Gesundheitsbesucher, kommunale Gesundheitsfachkräfte) konzipiert ist?

• Ist die Verantwortlichkeit für die Genauigkeit von Notizen klar kommuniziert und dokumentiert?

• Ist ein Change-Management-Plan vorhanden, einschließlich klinischer Leiter und Feedback-Mechanismen?

Qualität klinischer Notizen

• Sind Akzeptanzschwellen für Genauigkeit definiert, bevor das Pilotprojekt beginnt?

• Ist ein strukturierter Pilotplan vorhanden, einschließlich unabhängiger Notizüberprüfung?

• Ist ein fortlaufender Qualitätsprüfungsprozess in den Governance-Rahmen integriert?

Sprache und Bevölkerungsvielfalt

• Wurde das Werkzeug in den Sprachen und Dialekten validiert, die in der Bevölkerung der Kommune vorhanden sind?

• Wurde die Genauigkeit mit Personal und Patienten getestet, die für die tatsächliche Bevölkerung repräsentativ sind?

• Ist die Handhabung dolmetschervermittelter Konsultationen dokumentiert und bewertet?

Praxisverwaltungssystem und IT-Integration

• Ist die Kompatibilität mit dem Praxisverwaltungssystem bestätigt, und ist der Integrationsmechanismus dokumentiert?

• Wurde eine technische Bewertung der Einschränkungen durch Altsysteme abgeschlossen?

• Ist die FHIR- und HL7-Kompatibilität bestätigt, wo relevant für den grenzüberschreitenden Datenaustausch?

Interne Governance und Beschaffung

• Wurden alle erforderlichen internen Stakeholder (DSB, klinische Governance, IT, Recht, Finanzen) einbezogen?

• Entspricht der Beschaffungsprozess den geltenden öffentlichen Beschaffungsregeln?

• Wurde der Business Case vorbereitet, der sowohl Effizienzgewinne als auch Risikomanagement-Verpflichtungen adressiert?

Dieser Rahmen strukturiert die Komplexität der Einführung von KI-Dokumentationsunterstützung in kommunalen Gesundheitseinrichtungen in bewertbare, sequenzierte Fragen, die Verantwortliche systematisch durcharbeiten können. Das regulatorische Umfeld über MDR, DSGVO und das EU-KI-Gesetz hinweg ist anspruchsvoll, und die Evidenz aus der gesamten WHO-Europaregion legt nahe, dass Gesundheitssysteme auf allen Ebenen noch dabei sind, die Governance-Kapazität zu entwickeln, um sich darin zurechtzufinden. Mit einem klaren Rahmen zu beginnen, anstatt mit einem technologiezentrierten Ansatz, ist der zuverlässigste Weg zu einer Einführung, die sowohl rechtlich solide als auch nützlich für das Personal und die Gemeinschaften ist, denen sie dienen soll.

Häufig gestellte Fragen

▶ Warum benötigen kommunale Gesundheitsprogramme einen eigenen Bewertungsrahmen für KI-Dokumentationswerkzeuge?

Die meisten Nachweise für KI-Dokumentationswerkzeuge stammen aus Krankenhäusern und Hausarztpraxen, die über feste Sprechzimmer, dedizierte IT-Infrastruktur und geschützte Dokumentationszeit verfügen. Die kommunale Gesundheitsversorgung wird typischerweise von Pflegefachkräften geleitet, ist über verteilte Standorte organisiert und basiert auf kurzen, informellen Begegnungen wie Hausbesuchen und schulärztlichen Untersuchungen. Das Personal wechselt zwischen Standorten, die Konnektivität ist unbeständig, und dieselbe Person fungiert oft gleichzeitig als Behandler, Pflegekoordinator und Fallmanager. Ein in einem Krankenhausumfeld validiertes Werkzeug kann nicht als in diesem Kontext angemessen funktionierend angenommen werden, weshalb ein maßgeschneiderter Bewertungsrahmen notwendig ist.

▶ Was leistet ein KI-Dokumentationsassistent tatsächlich in einem kommunalen Gesundheitsumfeld?

Ein KI-Dokumentationsassistent hört einem klinischen Gespräch zu, wandelt gesprochene Inhalte mithilfe von Sprache-zu-Text-Technologie (automatische Spracherkennung, ASR) in Text um und erstellt aus dieser Transkription eine strukturierte klinische Notiz oder Zusammenfassung. Er interpretiert keine klinischen Befunde, schlägt keine Diagnosen vor, empfiehlt keine Behandlungen und kennzeichnet keine klinischen Risiken. Diese Funktionen definieren klinische Entscheidungsunterstützung, die unterschiedliche regulatorische Verpflichtungen mit sich bringt. Ein praktischer Test: Wenn das Entfernen der Ausgabe des Werkzeugs das Urteil des Behandlers unverändert lassen würde, funktioniert es als Dokumentationsassistent. Wenn die Ausgabe beeinflusst, was der Behandler als Nächstes entscheidet, handelt es sich um klinische Entscheidungsunterstützung.

▶ Wie gilt die EU-Medizinprodukteverordnung (MDR) für KI-Dokumentationswerkzeuge in der kommunalen Gesundheitsversorgung?

Die zentrale Frage nach der Medizinprodukteverordnung (Verordnung 2017/745) ist, ob das Werkzeug für die Diagnose, Prävention, Überwachung, Behandlung oder Linderung von Krankheiten bestimmt ist. Ein Werkzeug, das nur klinische Gespräche erfasst und strukturiert, ohne deren klinischen Inhalt zu interpretieren, fällt im Allgemeinen nicht in den Anwendungsbereich der MDR. Ein Werkzeug, das klinische Empfehlungen, Risiko-Scores oder diagnostische Vorschläge generiert, fällt darunter. Wenn ein Werkzeug als Medizinprodukt klassifiziert wird, muss der Hersteller eine CE-Kennzeichnung besitzen, eine Konformitätsbewertung abschließen und Verpflichtungen zur technischen Dokumentation und Marktüberwachung nach dem Inverkehrbringen erfüllen. Verantwortliche sollten vor der Beschaffung von jedem Anbieter eine schriftliche Erklärung zur Zweckbestimmung und Bestätigung der MDR-Klassifizierung anfordern.

▶ Welche DSGVO-Verpflichtungen gelten, wenn eine Kommune einen KI-Dokumentationsassistenten zur Verarbeitung von Patientendaten verwendet?

Ein KI-Dokumentationsassistent verarbeitet personenbezogene Daten besonderer Kategorien gemäß der Datenschutz-Grundverordnung (DSGVO), insbesondere Gesundheitsdaten über identifizierbare Personen. Dies löst die strengste Stufe der DSGVO-Verpflichtungen aus. Kommunen, die als Verantwortliche handeln, müssen eine Rechtsgrundlage für die Verarbeitung bestätigen, typischerweise Artikel 9 Absatz 2 Buchstabe h in Kombination mit Artikel 6 Absatz 1 Buchstabe e für öffentliche Aufgaben. Ein Auftragsverarbeitungsvertrag gemäß Artikel 28 DSGVO muss vorliegen, bevor Daten verarbeitet werden. Verantwortliche müssen auch bestätigen, dass Patientendaten innerhalb der EU oder des Europäischen Wirtschaftsraums gespeichert und verarbeitet werden, eine vollständige Liste der Unterauftragsverarbeiter und deren Standorte einholen und Datenaufbewahrungs- und Löschrichtlinien dokumentieren.

▶ Welche Sicherheitszertifizierungen und -kontrollen sollten Verantwortliche von KI-Dokumentationsanbietern verlangen?

ISO 27001 ist die Basiszertifizierung, die Verantwortliche verlangen sollten. Sie belegt, dass der Anbieter ein Informationssicherheits-Managementsystem implementiert hat, das unabhängig geprüft wurde. Darüber hinaus sollten Verantwortliche schriftlich bestätigen, dass Patientendaten bei der Übertragung und im Ruhezustand verschlüsselt sind, dass der Zugriff auf Patientendaten innerhalb der Anbieterorganisation kontrolliert und protokolliert wird, dass der Anbieter die DSGVO-Anforderung unterstützen kann, Aufsichtsbehörden innerhalb von 72 Stunden nach einer Verletzung zu benachrichtigen, und dass unabhängige Penetrationstests regelmäßig durchgeführt werden. Nationale Rahmenwerke für die Sicherheit von Gesundheitsdaten, wie sie von Cybersicherheitsbehörden in Frankreich, Deutschland oder den Niederlanden betrieben werden, können zusätzliche Anforderungen über ISO 27001 hinaus stellen.

▶ Warum könnte ein im Krankenhaus validiertes KI-Dokumentationswerkzeug in kommunalen Gesundheitseinrichtungen anders funktionieren?

Die kommunale Gesundheitsversorgung weist Workflow-Merkmale auf, die in Krankenhaus- oder Hausarztumgebungen nicht existieren. Hausbesuche und schulärztliche Untersuchungen beinhalten variable akustische Umgebungen, unzuverlässigen Internetzugang und kürzere, weniger strukturierte Gespräche als Krankenhaustermine. Das Personal übt häufig klinische, sozialfürsorgerische und öffentliche Gesundheitsfunktionen innerhalb einer einzigen Begegnung aus. Gemeinsam genutzte oder persönliche Geräte werfen zusätzliche Sicherheitsfragen auf, die feste Krankenhausgeräte nicht aufwerfen. Verantwortliche sollten Anbieter ausdrücklich fragen, ob das Werkzeug in kommunalen Gesundheits-, Hausbesuchs- oder Schulgesundheitskontexten getestet wurde, und Leistungsdaten aus diesen Umgebungen anfordern, nicht aus Krankenhausumgebungen.

▶ Wer ist für die Genauigkeit KI-generierter klinischer Notizen in einem pflegegeleiteten kommunalen Gesundheitsdienst verantwortlich?

Der Behandler, der die Begegnung durchgeführt hat, behält die volle berufliche und rechtliche Verantwortung für die Genauigkeit jeder KI-generierten klinischen Notiz. Die KI-generierte Notiz ist ein Entwurf zur Überprüfung durch den Behandler, keine endgültige Aufzeichnung. Dies muss dem gesamten Personal vor der Einführung klar kommuniziert