Europäische kommunale Gesundheitsdienste stehen unter zunehmendem Verwaltungsdruck. Mitarbeitende im Gesundheitswesen – Pflegefachkräfte, Physiotherapeutinnen und Physiotherapeuten, Psychologinnen und Psychologen sowie Sozialarbeitende – verbringen einen immer größeren Teil ihres Arbeitstags mit Dokumentationsaufgaben statt mit direktem Patientenkontakt. Kommunen sehen sich zudem mit steigenden Anforderungen an strukturierte Berichterstattung auf Bevölkerungsebene, Personalengpässen und politischem Druck zur Modernisierung öffentlicher Dienstleistungen konfrontiert. KI-gestützte Dokumentationswerkzeuge sind in diesem Umfeld als mögliche Antwort auf diese Herausforderungen aufgekommen. Für Administratorinnen und Administratoren im öffentlichen Gesundheitswesen liegt die Entscheidung, ein solches Tool zu evaluieren oder zu pilotieren, an der Schnittstelle von Vergaberecht, Datenschutz-Grundverordnung, aufkommender KI-Gesetzgebung, Medizinprodukteverordnung und klinischer Governance. Jede dieser Regelungen hat eigene Anforderungen, Zeitpläne und interne Stakeholder. Dieser Artikel erläutert, was Administratorinnen und Administratoren wissen müssen, bevor sie starten.

Was KI-gestützte Dokumentationswerkzeuge im Kontext des öffentlichen Gesundheitswesens leisten

KI-gestützte Dokumentationswerkzeuge – manchmal auch KI-Medizinassistenten oder Ambient-Dokumentationssysteme genannt – erfassen gesprochene klinische Begegnungen und wandeln sie in strukturierte klinische Notizen um. In der Praxis führt eine Fachkraft im Gesundheitswesen einen Patientenbesuch wie gewohnt durch. Das Tool hört zu, transkribiert und erstellt einen Notizentwurf. Die behandelnde Person prüft und genehmigt diesen Entwurf, bevor er in das Praxisverwaltungssystem übernommen wird.

Im Kontext des kommunalen öffentlichen Gesundheitswesens unterscheidet sich dies deutlich davon, wie ähnliche Tools in Hausarztpraxen oder Krankenhausstationen eingesetzt werden. Kommunale Gesundheitsprogramme sind typischerweise bevölkerungsbezogen und nicht akut. Sie umfassen häusliche Pflegebesuche, psychiatrische Nachsorge, Rehabilitationssitzungen, Termine mit Gesundheitsbesucherinnen und -besuchern sowie das Management chronischer Erkrankungen in der Gemeinde. Die Dokumentationsanforderungen sind meist umfangreich, wiederkehrend in der Struktur und verteilen sich auf eine dezentrale Belegschaft, die oft an mehreren Standorten ohne konsistente administrative Unterstützung arbeitet.

Der praktische Nutzen in diesem Setting ist Zeitgewinn. Ein sechswöchiger Pilotversuch in der Kommune Farsund, Norwegen, an dem zwanzig Mitarbeitende aus drei Pflegeteams beteiligt waren, zeigte, dass die tägliche Gesamtdokumentationszeit von etwa drei Stunden auf zehn bis fünfzehn Minuten sank. Das Tool wurde in realen Patientengesprächen in verschiedenen kommunalen Gesundheitseinrichtungen getestet. Es ist eine der wenigen veröffentlichten Evaluierungen, die speziell innerhalb eines europäischen kommunalen Gesundheitsprogramms durchgeführt wurden.

Eine separate groß angelegte Beobachtungsstudie in Capio/Ramsay Santé-Einrichtungen in Schweden evaluierte einen KI-Medizinassistenten anhand von 375.000 klinischen Notizen. Sie fand konsistente Reduktionen der selbst berichteten Dokumentationszeit über mehrere Versorgungsebenen hinweg. Diese Studie war präregistriert und folgte den SQUIRE-Berichtsrichtlinien. Sie zählt zu den methodisch anspruchsvolleren Real-World-Evaluierungen, die verfügbar sind.

Es ist wichtig, klar zu benennen, was diese Tools in einem Standard-Dokumentationskontext nicht leisten: Sie stellen keine Diagnosen, verschreiben nichts und geben keine klinischen Empfehlungen ab. Sie transkribieren und strukturieren, was eine Fachkraft während einer Begegnung sagt und tut. Diese Unterscheidung hat direkte regulatorische Konsequenzen.

Der EU AI Act: Welche Risikoklassifizierung gilt für Dokumentationswerkzeuge im öffentlichen Gesundheitswesen

Der EU AI Act, der im August 2024 in Kraft trat, etabliert ein gestuftes Risikoklassifizierungssystem für KI-Systeme, die in der EU eingesetzt werden. Zu verstehen, wo ein Dokumentationswerkzeug innerhalb dieses Rahmens einzuordnen ist, ist für Administratorinnen und Administratoren wesentlich. Die Klassifizierung bestimmt die Verpflichtungen, die sowohl für den Anbieter als auch für die einsetzende Organisation gelten.

Das Gesetz unterscheidet zwischen Hochrisiko-KI-Systemen und solchen, die ein geringeres oder minimales Risiko darstellen. Hochrisiko-Systeme im Gesundheitswesen sind in erster Linie solche, die für Diagnose, Behandlungsentscheidungen oder klinische Entscheidungsunterstützung verwendet werden. Ein KI-System, das klinische Empfehlungen generiert, Diagnosen kennzeichnet oder Verschreibungsentscheidungen unterstützt, fällt wahrscheinlich in die Hochrisiko-Kategorie. Es muss Konformitätsanforderungen erfüllen, bevor es eingesetzt werden darf.

Ein Dokumentationswerkzeug, das klinische Begegnungen erfasst und strukturiert, ohne klinische Empfehlungen zu generieren, nimmt eine andere Position ein. Seine Hauptfunktion ist administrativ: die Umwandlung von Sprache in strukturierten Text zur Überprüfung durch die behandelnde Person. Administratorinnen und Administratoren sollten bei Anbietern bestätigen, ob ihr Tool unter dem EU AI Act bewertet wurde und welche Risikoklassifizierung gilt. Sie sollten EU AI Act-Konformitätsdokumentation anfordern. Wird eine niedrigere Risikoklassifizierung beansprucht, sollte eine schriftliche Begründung vorliegen. Es ist zu prüfen, dass das Tool keine Entscheidungsunterstützungsfunktionen enthält, die seine Klassifizierung verschieben würden.

Das Gesetz führt zudem Transparenzpflichten ein. Wenn KI-Systeme mit Personen interagieren, einschließlich Patientinnen und Patienten, müssen diese darüber informiert werden. Selbst in einem reinen Dokumentationskontext hat dies Auswirkungen darauf, wie Kommunen mit Patientinnen und Patienten über die während ihrer Termine eingesetzte Technologie kommunizieren.

DSGVO-Verpflichtungen, die vor, während und nach der Pilotierung gelten

Gesundheitsdaten sind besondere Kategorien personenbezogener Daten gemäß Artikel 9 der Datenschutz-Grundverordnung (DSGVO). Ihre Verarbeitung erfordert nicht nur eine Rechtsgrundlage nach Artikel 6, sondern auch eine zusätzliche Bedingung nach Artikel 9. Am häufigsten ist dies die ausdrückliche Einwilligung oder die Verarbeitung, die für die Bereitstellung von Gesundheits- oder Sozialfürsorge nach Artikel 9 Absatz 2 Buchstabe h erforderlich ist. Kommunale Gesundheitsbehörden müssen bestimmen, welche Grundlage für ihr spezifisches Programm gilt. Diese Festlegung ist vor Beginn eines Piloten zu dokumentieren.

Die wichtigsten DSGVO-Verpflichtungen, die Administratorinnen und Administratoren in jeder Phase eines Pilotprojekts beachten sollten:

• Vor der Pilotierung: Führen Sie eine Datenschutz-Folgenabschätzung (DSFA) durch. Gemäß Artikel 35 der DSGVO ist eine DSFA verpflichtend, wenn die Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten von Personen zur Folge hat. Die Verarbeitung besonderer Kategorien von Gesundheitsdaten unter Einsatz neuer Technologien erfüllt diese Schwelle. Die DSFA sollte die Risiken identifizieren, die Notwendigkeit und Verhältnismäßigkeit der Verarbeitung bewerten und die Maßnahmen zur Risikominderung dokumentieren.

• Während der Pilotierung: Wenden Sie das Prinzip der Datenminimierung an. Das Tool sollte nur die Daten verarbeiten, die für die Dokumentationsfunktion erforderlich sind. Administratorinnen und Administratoren sollten bestätigen, dass Audioaufnahmen nicht länger als für die Transkription notwendig gespeichert werden. Der Anbieter darf Patientendaten nicht ohne ausdrückliche Genehmigung für das Modelltraining verwenden.

• Nach der Pilotierung und im Einsatz: Führen Sie Verzeichnisse von Verarbeitungstätigkeiten gemäß Artikel 30. Stellen Sie sicher, dass die Rechte der betroffenen Personen ausgeübt werden können, einschließlich Auskunft und Löschung. Überprüfen Sie die Auftragsverarbeitungsvereinbarung mit dem Anbieter und bestätigen Sie, dass sie die tatsächlichen Verarbeitungspraktiken widerspiegelt.

Die Auftragsverarbeitungsvereinbarung zwischen der Kommune und dem Anbieter ist eine vertragliche Anforderung gemäß Artikel 28 der DSGVO. Sie muss den Gegenstand, die Dauer, die Art und den Zweck der Verarbeitung, die Art der personenbezogenen Daten und die Kategorien betroffener Personen sowie die Pflichten und Rechte des Verantwortlichen festlegen. Ohne unterzeichnete Auftragsverarbeitungsvereinbarung sollte keine Pilotierung erfolgen.

Datenhaltung und Datensouveränität: Was europäische Kommunen bestätigen müssen

Für die meisten europäischen Gesundheitsbehörden ist die Verarbeitung von Gesundheitsdaten außerhalb der EU oder des EWR gemäß ihren nationalen Datenschutzvorgaben nicht zulässig. Dies gilt unabhängig davon, was die DSGVO technisch durch Übermittlungsmechanismen erlaubt. Mehrere EU-Mitgliedstaaten haben nationale Vorschriften, die strengere Anforderungen als die DSGVO-Grundlinie vorsehen. Viele kommunale Beschaffungsrichtlinien verlangen eine ausdrückliche Bestätigung der EU-Datenhaltung.

Vor der Pilotierung sollten Administratorinnen und Administratoren vom Anbieter eine schriftliche Bestätigung zu folgenden Punkten einholen:

• Wo Audiodaten verarbeitet werden (Serverstandort zum Zeitpunkt der Transkription)

• Wo strukturierte Notizen gespeichert werden und wie lange

• Ob Unterauftragsverarbeiter beteiligt sind und wo sich diese befinden

• Ob Daten in irgendeiner Phase der Verarbeitungskette außerhalb der EU oder des EWR übertragen werden, einschließlich für Modelltraining oder Qualitätssicherung

Der Europäische Gesundheitsdatenraum (EHDS), der 2025 in Kraft trat, führt zusätzliche Infrastruktur für die grenzüberschreitende Nutzung von Gesundheitsdaten in der EU ein. Administratorinnen und Administratoren sollten beobachten, wie der EHDS mit nationalen Datenhaltungsanforderungen interagiert, während seine Umsetzung voranschreitet. Dies ist besonders relevant für Kommunen, die grenzüberschreitende Gesundheitsprogramme betreiben.

Anbieter mit Sitz oder Infrastruktur in den Vereinigten Staaten, dem Vereinigten Königreich oder anderen Nicht-EWR-Ländern sollten den verwendeten rechtlichen Übermittlungsmechanismus angeben (z. B. Standardvertragsklauseln). Sie sollten bestätigen, dass im regulären Betrieb keine Gesundheitsdaten auf Servern außerhalb des EWR verarbeitet werden.

Medizinprodukteverordnung: Wann gilt sie für Dokumentationswerkzeuge

Die EU-Medizinprodukteverordnung (MDR) gilt für Software, die für einen medizinischen Zweck bestimmt ist. Dazu zählen Diagnose, Prävention, Überwachung, Vorhersage, Prognose, Behandlung oder Linderung von Krankheiten. Ob ein KI-Dokumentationswerkzeug unter die MDR fällt, hängt davon ab, was die Software tatsächlich leistet, nicht davon, wie sie vermarktet wird.

Ein Tool, dessen einzige Funktion darin besteht, klinische Begegnungen zu transkribieren und zu strukturieren, ohne eine Ausgabe zu generieren, die klinische Entscheidungen beeinflusst, wird in der Regel nicht als Medizinprodukt gemäß MDR betrachtet. Enthält ein Tool jedoch Funktionen wie das Kennzeichnen klinischer Auffälligkeiten, das Vorschlagen von Diagnosen oder das Anregen von Behandlungsüberlegungen, können diese Funktionen es in den Anwendungsbereich bringen.

Administratorinnen und Administratoren sollten:

• Den Anbieter um eine schriftliche MDR-Klassifizierungsbegründung bitten

• Prüfen, ob das Tool eine CE-Kennzeichnung als Medizinprodukt trägt und unter welcher Klassifizierung

• Bestätigen, dass jede CE-Kennzeichnung für die Version des Tools gilt, die pilotiert wird, nicht für eine frühere Version

• Überprüfen, ob der Anbieter über ein nach ISO 13485 zertifiziertes Qualitätsmanagementsystem verfügt, wie es für Medizinproduktehersteller erforderlich ist

Die medRxiv-Studie, die den Tandem-KI-Medizinassistenten in schwedischen Gesundheitseinrichtungen evaluierte, ist bemerkenswert, da das evaluierte Tool CE-gekennzeichnet war. Dies ist ein relevanter Datenpunkt für Administratorinnen und Administratoren, die bewerten, wie Anbieterzertifizierungen in der Praxis für diese Tool-Kategorie aussehen.

Öffentliche Vergabevorschriften und wie sie den Evaluierungsprozess prägen

KI-Dokumentationswerkzeuge, die von europäischen kommunalen Gesundheitsbehörden beschafft werden, unterliegen dem EU-Vergaberahmen gemäß Richtlinie 2014/24/EU. Die Richtlinie gilt oberhalb definierter finanzieller Schwellenwerte. Für öffentliche Auftraggeber auf subzentraler Ebene liegt der aktuelle Schwellenwert für Dienstleistungsaufträge bei 215.000 € (ohne Mehrwertsteuer). Dieser Wert wird alle zwei Jahre von der Europäischen Kommission überarbeitet und sollte anhand der jeweils aktuellen delegierten Verordnung überprüft werden. Verträge oberhalb dieses Schwellenwerts erfordern ein formelles Ausschreibungsverfahren, das im Amtsblatt der EU veröffentlicht wird.

Unterhalb des Schwellenwerts behalten Kommunen mehr Flexibilität, aber nationale Vergabevorschriften gelten weiterhin und variieren je nach Mitgliedstaat. In der Praxis sollte selbst die Beschaffung von KI-Tools unterhalb des Schwellenwerts einem dokumentierten Wettbewerbsverfahren folgen. Dies erfüllt Prüfungsanforderungen und weist Wirtschaftlichkeit nach.

Beim Verfassen technischer Spezifikationen für ein KI-Dokumentationswerkzeug sollten Administratorinnen und Administratoren Spezifikationen vermeiden, die so eng gefasst sind, dass sie faktisch das Produkt eines einzelnen Anbieters beschreiben. Dies ist gemäß der Richtlinie untersagt. Stattdessen sollten Spezifikationen funktionale Anforderungen beschreiben (z. B. Echtzeit-Transkription in der relevanten Sprache, strukturierte Ausgabe, die mit dem bestehenden Praxisverwaltungssystem kompatibel ist, EU-Datenhaltung) und Compliance-Anforderungen (z. B. DSGVO-Konformität, EU AI Act-Konformitätsdokumentation, ISO 27001-Zertifizierung).

Vertragsbedingungen sollten Folgendes umfassen:

• Klare Bestimmungen zum Dateneigentum, die bestätigen, dass alle Patientendaten und generierten Notizen Eigentum der Kommune oder der zuständigen Gesundheitsbehörde bleiben

• Ausstiegsregelungen, die es der Kommune ermöglichen, ihre Daten abzurufen und ohne unzumutbare Kosten oder technische Bindung zu einem anderen Anbieter zu wechseln

• Prüfungsrechte, die es der Kommune ermöglichen, die Einhaltung der Auftragsverarbeitungsverpflichtungen während der Vertragslaufzeit zu kontrollieren

Die OECD hat festgestellt, dass die meisten EU-Gesundheitssysteme keine dedizierten Erstattungsstrukturen für KI-Tools haben. Sie hebt kollektive Beschaffungsmodelle hervor, wie etwa fünf niederländische Krankenhäuser, die Ressourcen bündeln, um KI-Systeme zu evaluieren. Kommunen, die eine gemeinsame Beschaffung mit benachbarten Behörden oder regionalen Gesundheitseinrichtungen in Betracht ziehen, sollten prüfen, ob dieses Modell Evaluierungskosten senken und ihre Verhandlungsposition stärken könnte.

Die praktischen Fragen, die Administratorinnen und Administratoren vor der Pilotierung stellen

Basierend auf dokumentierten Evaluierungen und Beschaffungsleitlinien umfassen die operativen und Governance-Fragen, die am häufigsten vor der Genehmigung eines Pilotprojekts aufgeworfen werden:

• Wem gehören die Ausgabedaten? Die vom Tool generierten strukturierten Notizen sind klinische Aufzeichnungen. Eigentum und Verwahrung müssen im Vertrag eindeutig geregelt sein.

• Was passiert, wenn das Tool einen Fehler macht? Die behandelnde Person, die die Notiz prüft und genehmigt, trägt die klinische und rechtliche Verantwortung. Administratorinnen und Administratoren sollten sicherstellen, dass dies in der Anbietervereinbarung explizit festgehalten ist. Das Tool darf die Ausgabe nicht so präsentieren, dass die Aufmerksamkeit der prüfenden Person während der Kontrolle nachlässt.

• Wie wird die Einwilligung der Patientinnen und Patienten verwaltet? Patientinnen und Patienten müssen darüber informiert werden, dass während ihres Termins ein KI-Tool eingesetzt wird. Es braucht einen klaren, dokumentierten Prozess zur Information und Dokumentation dieser Zustimmung.

• Wie wird die Einwilligung der Mitarbeitenden verwaltet? Mitarbeitende, deren Stimmen vom Tool erfasst werden, sind ebenfalls betroffene Personen. Ihre Rechte gemäß DSGVO gelten. Ihre Einwilligung oder eine andere Rechtsgrundlage muss festgelegt werden.

• Welche Prüfpfade sind erforderlich? Klinische Governance erfordert, dass nachvollziehbar ist, was während einer Begegnung geschah und wer die resultierende Notiz genehmigt hat. Administratorinnen und Administratoren sollten klären, welche Protokolle das Tool führt und wie lange diese gespeichert werden.

• Wie interagiert das Tool mit dem bestehenden Praxisverwaltungssystem? Integrationsanforderungen variieren erheblich. Einige Tools exportieren strukturierten Text, der manuell importiert werden muss. Andere integrieren sich direkt über eine Programmierschnittstelle (API). Das Integrationsmodell beeinflusst sowohl das Workflow-Design als auch die Bewertung der Datensicherheit.

Eine peer-reviewte Studie zur Beschaffung von Gesundheitstechnologie in schwedischen Kommunen zeigte, dass die strukturierte Nutzung von Evidenz bei Beschaffungs- und Evaluierungsentscheidungen uneinheitlich ist. Bestehende nationale Leitlinien reichen nicht aus, um Kommunen bei evidenzbasierten Entscheidungen zu unterstützen. Dieser Befund unterstreicht die Bedeutung des Aufbaus interner Evaluierungskapazitäten, anstatt sich ausschließlich auf vom Anbieter bereitgestellte Evidenz zu verlassen.

Wie man ein risikoarmes Pilotprojekt in einem kommunalen Gesundheitsprogramm strukturiert

Ein klar abgegrenztes Pilotprojekt reduziert regulatorische Risiken, liefert verwertbare Evidenz und schafft die Grundlage für eine fundierte Einsatzentscheidung. Die folgenden Elemente kennzeichnen ein risikoarmes Pilotdesign:

• Definierter Umfang: Begrenzen Sie das Pilotprojekt auf ein bestimmtes Pflegeteam, Programm oder einen Standort. Ein einzelnes kommunales Pflegeteam oder ein psychiatrisches Nachsorgeprogramm ist überschaubarer als ein kommunenweiter Rollout.

• Definierte Dauer: Sechs bis zwölf Wochen reichen aus, um aussagekräftige Daten zu Dokumentationszeit, Mitarbeitenden-Erfahrung und Notizqualität zu generieren. Das Pilotprojekt der Kommune Farsund lief sechs Wochen und lieferte klare, quantifizierbare Ergebnisse.

• Vorab vereinbarte Erfolgskriterien: Definieren Sie im Voraus, wie ein erfolgreiches Pilotprojekt aussieht. Relevante Metriken sind Dokumentationszeit pro Besuch, von Mitarbeitenden berichtete Usability-Scores, Fehlerquoten in generierten Notizen und Patientenfeedback zur Erfahrung mit dem Tool.

• Governance-Freigaben: Holen Sie vor Beginn des Pilotprojekts schriftliche Freigaben vom Datenschutzbeauftragten (DSFA abgeschlossen), vom Beschaffungsleiter (Vertrag und Auftragsverarbeitungsvereinbarung vorhanden) und vom klinischen Leiter (klinischer Governance-Rahmen vereinbart) ein. Dokumentieren Sie diese Genehmigungen.

• Mitarbeiterschulung: Stellen Sie sicher, dass alle teilnehmenden Mitarbeitenden verstehen, wie das Tool funktioniert, welche Überprüfungsverantwortlichkeiten sie haben und wie Fehler oder Bedenken gemeldet werden. Der WHO/Europa-Bericht über KI im Gesundheitswesen, die erste umfassende Übersicht über alle 27 EU-Mitgliedstaaten, identifiziert Mitarbeiterschulung und KI-Kompetenz als Schlüsselfaktoren für eine erfolgreiche KI-Implementierung.

• Patientenkommunikation: Bereiten Sie eine klare, allgemeinverständliche Erklärung für Patientinnen und Patienten über die Anwesenheit und den Zweck des Tools vor. Diese sollte in den Sprachen verfügbar sein, die von der betreuten Patientengruppe gesprochen werden.

• Ausstiegsplan: Definieren Sie, was mit Daten, Notizen und Zugriffsrechten geschieht, wenn das Pilotprojekt beendet wird oder die Anbieterbeziehung vor dem vollständigen Einsatz endet.

Anbieterbewertung: Worauf man über den Verkaufspitch hinaus achten sollte

Die folgenden Kriterien sollten unabhängig überprüft werden und dürfen nicht allein auf Basis von Marketingmaterialien akzeptiert werden:

• ISO 27001-Zertifizierung: Dies ist der internationale Standard für Informationssicherheitsmanagement. Fordern Sie das aktuelle Zertifikat an und prüfen Sie, dass sein Geltungsbereich die Systeme umfasst, die zur Verarbeitung von Gesundheitsdaten genutzt werden.

• DSGVO-Auftragsverarbeitungsvereinbarung: Diese muss vor jeder Datenübermittlung vorliegen. Überprüfen Sie sie anhand der Anforderungen von Artikel 28 und stellen Sie sicher, dass sie die tatsächlichen Verarbeitungsaktivitäten widerspiegelt.

• EU AI Act-Konformitätsdokumentation: Fordern Sie die schriftliche Risikoklassifizierungsbewertung des Anbieters und alle Konformitätsdokumente an, die gemäß der jeweiligen Klassifizierungsstufe erforderlich sind.

• Medizinproduktestatus: Wenn das Tool eine CE-Kennzeichnung als Medizinprodukt trägt, fordern Sie die Konformitätserklärung an und prüfen Sie die beteiligte benannte Stelle.

• Bestätigung der Datenhaltung: Holen Sie eine schriftliche Bestätigung darüber ein, wo Daten in jeder Phase verarbeitet und gespeichert werden, einschließlich etwaiger Unterauftragsverarbeiter.

• Transparenz beim Modelltraining: Fragen Sie explizit, ob Patientendaten aus Ihrer Implementierung zum Training oder zur Feinabstimmung des Modells verwendet werden. Falls ja, auf welcher Rechtsgrundlage? Können Sie widersprechen?

• Evidenz aus vergleichbaren Settings: Fordern Sie Referenzen oder veröffentlichte Evidenz aus Implementierungen in öffentlichen oder kommunalen Gesundheitseinrichtungen in Europa an. Peer-reviewte oder präregistrierte Studien haben größeres Gewicht als interne Fallstudien.

• Sprachfähigkeit: Bestätigen Sie, dass das Tool in den spezifischen Sprachen, die Ihr klinisches Personal verwendet, zuverlässig funktioniert. Dies umfasst regionale Dialekte oder klinische Terminologie, die für Ihr nationales Gesundheitssystem typisch ist.

Eine crossover-randomisierte kontrollierte Studie, die KI-gestützte klinische Kodierung in Schweden und Norwegen evaluierte, durchgeführt vom Norwegischen Zentrum für E-Health-Forschung, bietet eine nützliche methodische Referenz für ein anspruchsvolles Evaluierungsdesign. Zu beachten ist, dass die Bewertung klinischer Kodierung sich von der Evaluierung von Ambient-Dokumentationswerkzeugen unterscheidet. Administratorinnen und Administratoren können die Methodik der Studie als Benchmark nutzen, wenn sie die Qualität der Evidenz bewerten, die Anbieter für ihren spezifischen Anwendungsfall präsentieren.

Eine Einschränkung der aktuellen Evidenzbasis ist erwähnenswert: Die meisten veröffentlichten Evaluierungen von KI-Dokumentationswerkzeugen stützen sich auf selbst berichtete Ergebnisse wie wahrgenommene Zeitersparnis oder Usability-Scores. Die objektive Messung von Dokumentationsqualität, Fehlerquoten und nachgelagerten klinischen Ergebnissen bleibt begrenzt. Administratorinnen und Administratoren sollten Anbieteransprüche entsprechend einordnen. Wo möglich, sollten sie objektive Messungen in ihr eigenes Pilotdesign integrieren.

Aufbau des internen Business Case: Abstimmung von Beschaffungs-, Rechts- und klinischen Teams

KI-Dokumentationswerkzeuge bewegen sich an der Schnittstelle von mindestens vier regulatorischen Rahmenwerken: DSGVO, EU AI Act, MDR und öffentlichem Vergaberecht. Sie erfordern typischerweise die Freigabe von mindestens drei internen Funktionen: Beschaffung, Recht/Datenschutz und klinische Leitung. In kommunalen Strukturen arbeiten diese Funktionen möglicherweise nicht routinemäßig zusammen. Jede hat andere Schwerpunkte.

Ein pragmatischer Ansatz zur internen Abstimmung umfasst:

• Beginnen Sie mit dem Datenschutzbeauftragten. Die DSFA ist Voraussetzung für jedes Pilotprojekt, das besondere Kategorien von Gesundheitsdaten betrifft. Die frühzeitige Einbindung des Datenschutzbeauftragten – vor der Anbieterauswahl – vermeidet die häufige Situation, dass ein bevorzugter Anbieter identifiziert wird und dann die Datenschutzprüfung nicht besteht.

• Formulieren Sie den klinischen Business Case praxisnah. Klinische Leitungen befassen sich eher mit einem Vorschlag, der auf die Reduzierung des Dokumentationsaufwands und Zeitgewinn abzielt, als mit einem, der auf Technologieeinführung fokussiert ist. Die Evidenz aus Farsund und der schwedischen Multi-Site-Studie liefert konkrete Zahlen, die diese Argumentation untermauern.

• Geben Sie der Beschaffung den regulatorischen Kontext, den sie benötigt. Beschaffungsteams sind möglicherweise nicht mit dem EU AI Act oder der MDR vertraut. Eine klare Zusammenfassung, welche Verpflichtungen gelten und welche in der Verantwortung des Anbieters bzw. der Kommune liegen, hilft der Beschaffung, Spezifikationen zu formulieren und Angebote gezielt zu bewerten.

• Dokumentieren Sie jede Entscheidung. In einem regulierten Beschaffungsumfeld ist der Prüfpfad entscheidend. Jede Entscheidung – fortzufahren, zu pausieren, einen Anbieter auszuschließen – sollte mit Begründung dokumentiert werden.

Norwegens nationaler KI-Plan für das Gesundheitswesen, geleitet von der norwegischen Gesundheitsdirektion, zielt explizit darauf ab, KI sowohl in kommunalen als auch in spezialisierten Versorgungseinrichtungen zu skalieren. Er umfasst Real-World-Implementierungen wie den KI-Rollout des Vestre Viken Health Trust, der 22 Kommunen und rund 500.000 Menschen versorgt. Dieses Engagement auf nationaler Ebene bietet einen nützlichen Referenzpunkt für kommunale Administratorinnen und Administratoren, die interne Unterstützung für die Evaluierung aufbauen möchten. Es zeigt, dass KI-Dokumentationswerkzeuge auch auf politischer Ebene ernst genommen werden.

Wie gute Evaluierung aussieht: Aufkommende Standards in Europa

In ganz Europa entwickelt sich der Ansatz zur Evaluierung von KI-Dokumentationswerkzeugen in öffentlichen Gesundheitseinrichtungen noch weiter. Es gibt keinen einheitlichen Standard, aber mehrere Rahmenwerke und Initiativen prägen, wie gute Evaluierung aussieht.

Das SHAIPED-Projekt der Europäischen Kommission, das im März 2025 gestartet wurde, pilotiert KI-Modellentwicklung und -validierung unter Nutzung der HealthData@EU-Infrastruktur. Diese grenzüberschreitende Initiative baut eine gemeinsame Infrastruktur für die Evaluierung von KI im Gesundheitswesen im großen Maßstab auf. Sie ist relevant für Kommunen, die ihre Evaluierungsansätze mit aufkommenden EU-Standards abstimmen möchten.

Der WHO/Europa-Bericht, der im April 2026 veröffentlicht wurde, basierend auf Daten, die zwischen Juni 2024 und März 2025 aus allen 27 EU-Mitgliedstaaten gesammelt wurden, stellte fest, dass 81 Prozent der Mitgliedstaaten aktiv Stakeholder in die KI-Governance einbeziehen. Die Mehrheit setzt bereits KI-Tools in klinischen Settings ein. Der Bericht identifiziert den Bedarf an strukturierten Evaluierungsrahmen und an KI-Kompetenz der Belegschaft als Prioritäten in der gesamten Region.

Für kommunale Administratorinnen und Administratoren sind Evaluierungsrahmen verfügbar, aber noch nicht standardisiert. Die glaubwürdigsten Ansätze teilen mehrere Merkmale:

• Präregistrierung von Evaluierungsprotokollen (wie in der schwedischen Multi-Site-Scribe-Studie)

• Einsatz validierter Usability-Instrumente neben zeitbasierten Metriken

• Einbeziehung von Patientenerfahrungsdaten, nicht nur Mitarbeitenden-Erfahrung

• Unabhängige oder Drittanbieter-Überprüfung von anbieterbereitgestellter Evidenz

• Transparente Berichterstattung über negative Befunde oder Einschränkungen neben positiven Ergebnissen

Das Open-Source-Dokumentationswerkzeug Berta, das zwischen November 2024 und Juli 2025 in 105 städtischen und ländlichen Einrichtungen von 198 Notärztinnen und Notärzten eingesetzt wurde, repräsentiert ein Modell für transparente Evaluierung. Seine Entwicklungs- und Einsatzmethodik ist öffentlich dokumentiert und ermöglicht externe Prüfung. Während Open-Source-Tools eigene Governance-Fragen aufwerfen, bietet die Transparenz ihres Evaluierungsansatzes einen nützlichen Referenzpunkt.

Administratorinnen und Administratoren, die eigene Evaluierungsrahmen aufbauen, sollten auch Leitlinien ihrer nationalen Gesundheitsbehörden und Datenschutzaufsichtsbehörden beobachten. Beide veröffentlichen zunehmend KI-spezifische Empfehlungen. Das regulatorische Umfeld ist in Bewegung: Was Mitte 2026 als Best Practice gilt, kann innerhalb der nächsten zwölf bis achtzehn Monate durch neue Leitlinien ersetzt werden. Evaluierungsrahmen sollten so gestaltet sein, dass sie diese Entwicklung aufnehmen können.

Häufig gestellte Fragen

▶ Was tun KI-gestützte Dokumentationswerkzeuge tatsächlich während eines kommunalen Gesundheitsbesuchs?

Ein KI-gestütztes Dokumentationswerkzeug hört bei einem Patientenbesuch zu, transkribiert die Begegnung und erstellt einen Entwurf einer klinischen Notiz. Die behandelnde Person prüft und genehmigt diese Notiz, bevor sie in das Praxisverwaltungssystem übernommen wird. Das Tool stellt keine Diagnosen, verschreibt nichts und gibt keine klinischen Empfehlungen ab. Seine Funktion ist administrativ: die Umwandlung von Sprache in strukturierten Text zur Überprüfung durch die Fachkraft.

▶ Welche Evidenz gibt es für Zeitersparnis in kommunalen Gesundheitseinrichtungen?

Ein sechswöchiges Pilotprojekt in der Kommune Farsund, Norwegen, an dem zwanzig Mitarbeitende aus drei Pflegeteams beteiligt waren, zeigte, dass die tägliche Gesamtdokumentationszeit von etwa drei Stunden auf zehn bis fünfzehn Minuten sank. Eine separate groß angelegte Beobachtungsstudie in Capio/Ramsay Santé-Einrichtungen in Schweden evaluierte einen KI-Medizinassistenten anhand von 375.000 klinischen Notizen. Sie fand konsistente Reduktionen der selbst berichteten Dokumentationszeit über mehrere Versorgungsebenen hinweg. Diese Studie war präregistriert und folgte den SQUIRE-Berichtsrichtlinien. Die meisten veröffentlichten Evaluierungen stützen sich auf selbst berichtete Ergebnisse. Administratorinnen und Administratoren sollten, wo möglich, objektive Messungen in ihr eigenes Pilotdesign integrieren.

▶ Klassifiziert der EU AI Act Dokumentationswerkzeuge als Hochrisiko?

Das EU-Gesetz über künstliche Intelligenz, das im August 2024 in Kraft trat, klassifiziert KI-Systeme, die für Diagnose, Behandlungsentscheidungen oder klinische Entscheidungsunterstützung verwendet werden, als Hochrisiko. Ein Dokumentationswerkzeug, dessen einzige Funktion darin besteht, klinische Begegnungen zu transkribieren und zu strukturieren, ohne klinische Empfehlungen zu generieren, nimmt eine andere Position ein. Administratorinnen und Administratoren sollten Anbieter nach einer schriftlichen Risikoklassifizierungsbegründung fragen und prüfen, dass das Tool keine Entscheidungsunterstützungsfunktionen enthält, die seine Klassifizierung in die Hochrisiko-Kategorie verschieben würden.

▶ Welche DSGVO-Verpflichtungen gelten vor Beginn eines Pilotprojekts?

Gesundheitsdaten sind besondere Kategorien personenbezogener Daten gemäß Artikel 9 der Datenschutz-Grundverordnung. Vor jedem Pilotprojekt müssen Kommunen eine Datenschutz-Folgenabschätzung durchführen. Diese ist gemäß Artikel 35 verpflichtend, wenn besondere Kategorien von Gesundheitsdaten unter Einsatz neuer Technologien verarbeitet werden. Eine unterzeichnete Auftragsverarbeitungsvereinbarung mit dem Anbieter, wie sie Artikel 28 verlangt, muss ebenfalls vorliegen, bevor Daten übermittelt werden. Administratorinnen und Administratoren sollten die Rechtsgrundlage für die Verarbeitung festlegen und diese Entscheidung dokumentieren, bevor das Pilotprojekt startet.

▶ Wie bestätigen Kommunen, dass Patientendaten innerhalb der EU bleiben?

Administratorinnen und Administratoren sollten vom Anbieter eine schriftliche Bestätigung einholen, wo Audiodaten zum Zeitpunkt der Transkription verarbeitet werden, wo strukturierte Notizen gespeichert werden und wie lange, ob Unterauftragsverarbeiter beteiligt sind und wo diese ansässig sind. Sie sollten auch klären, ob Daten in irgendeiner Phase außerhalb der EU oder des Europäischen Wirtschaftsraums übertragen werden, etwa für Modelltraining oder Qualitätssicherung. Anbieter, die Infrastruktur außerhalb des EWR nutzen, sollten den verwendeten rechtlichen Übermittlungsmechanismus angeben, beispielsweise Standardvertragsklauseln.

▶ Wann gilt die EU-Medizinprodukteverordnung für ein KI-Dokumentationswerkzeug?

Die EU-Medizinprodukteverordnung gilt für Software, die für einen medizinischen Zweck bestimmt ist, etwa Diagnose, Überwachung oder Behandlung. Ein Tool, dessen einzige Funktion darin besteht, klinische Begegnungen zu transkribieren und zu strukturieren, ohne eine Ausgabe zu generieren, die klinische Entscheidungen beeinflusst, wird in der Regel nicht als Medizinprodukt betrachtet. Enthält ein Tool jedoch Funktionen wie das Kennzeichnen klinischer Auffälligkeiten oder das Vorschlagen von Diagnosen, kann es in den Anwendungsbereich fallen. Administratorinnen und Administratoren sollten Anbieter nach einer schriftlichen Begründung zur Klassifizierung gemäß Medizinprodukteverordnung fragen und prüfen, ob das Tool eine CE-Kennzeichnung als Medizinprodukt trägt.

▶ Welche Vergabevorschriften gelten, wenn eine Kommune ein KI-Dokumentationswerkzeug kauft?

KI-Dokumentationswerkzeuge, die von europäischen kommunalen Gesundheitsbehörden beschafft werden, unterliegen dem EU-Vergaberahmen gemäß Richtlinie 2014/24/EU. Für subzentrale öffentliche Auftraggeber liegt der aktuelle Schwellenwert für Dienstleistungsaufträge bei 215.000 € ohne Mehrwertsteuer. Dieser Wert wird regelmäßig überarbeitet und sollte anhand der jeweils aktuellen delegierten Verordnung überprüft werden. Verträge oberhalb dieses Schwellenwerts erfordern ein formelles Ausschreibungsverfahren. Unterhalb des Schwellenwerts gelten weiterhin nationale Vergabevorschriften. Technische Spezifikationen sollten funktionale und Compliance-Anforderungen beschreiben, nicht das Produkt eines einzelnen Anbieters – dies ist gemäß der Richtlinie untersagt.

▶ Wer ist verantwortlich, wenn eine KI-generierte klinische Notiz einen Fehler enthält?

Die behandelnde Person, die die Notiz prüft und genehmigt, trägt die klinische und rechtliche Verantwortung. Administratorinnen und Administratoren sollten sicherstellen, dass dies in der Anbietervereinbarung explizit geregelt ist. Das Tool darf die Ausgabe nicht so präsentieren, dass die Aufmerksamkeit der prüfenden Person während der Kontrolle nachlässt. Der Prüfpfad, einschließlich Protokollen darüber, wer jede Notiz wann genehmigt hat, sollte vor Beginn des Pilotprojekts mit dem Anbieter abgestimmt werden.

▶ Wie sollte eine Kommune ein risikoarmes Pilotprojekt strukturieren?

Ein klar abgegrenztes Pilotprojekt beschränkt den Umfang auf ein bestimmtes Pflegeteam oder einen Standort, läuft sechs bis zwölf Wochen und definiert Erfolgskriterien im Voraus. Relevante Metriken sind Dokumentationszeit pro Besuch, von Mitarbeitenden berichtete Usability-Scores, Fehlerquoten in generierten Notizen und Patientenfeedback. Vor Beginn des Pilotprojekts sind schriftliche Freigaben vom Datenschutzbeauftragten, vom Beschaffungsleiter und vom klinischen Leiter erforderlich. Mitarbeiterschulung, ein klarer Patientenkommunikationsprozess und ein dokumentierter Ausstiegsplan sollten vorhanden sein, bevor Daten verarbeitet werden.

▶ Was sollten Administratorinnen und Administratoren bei der Bewertung eines Anbieters unabhängig überprüfen?

Administratorinnen und Administratoren sollten die ISO 27001-Zertifizierung prüfen und bestätigen, dass ihr Geltungsbereich die Systeme umfasst, die zur Verarbeitung von Gesundheitsdaten genutzt werden. Sie sollten die Auftragsverarbeitungsvereinbarung gemäß Datenschutz-Grundverordnung anhand der Anforderungen von Artikel 28 überprüfen, EU AI Act-Konformitätsdokumentation anfordern und den Medizinproduktestatus bestätigen, falls eine CE-Kennzeichnung beansprucht wird. Eine schriftliche Bestätigung der Datenhaltung in jeder Verarbeitungsphase, einschließlich etwaiger Unterauftragsverarbeiter, ist unerlässlich. Zudem sollten sie explizit fragen, ob Patientendaten zum Training oder zur Feinabstimmung des Modells verwendet werden. Sie sollten Evidenz aus Implementierungen in vergleichbaren europäischen öffentlichen Einrichtungen anfordern.