Einleitung: Der Wandel bei KI im Gesundheitswesen

Die Diskussionen über KI im Gesundheitswesen haben sich von Konferenzbühnen in die Regulierungspolitik verlagert. Europäische Gesundheitsbehörden ziehen eine klare Grenze: Sobald KI die klinische Dokumentation beeinflusst, ist sie nicht mehr nur Produktivitätssoftware, sondern ein Medizinprodukt.

Für KI-Schreibassistenten ist diese Unterscheidung entscheidend. Wenn sie Patientenakten beeinflussen, können sie die Patientenversorgung beeinträchtigen. In Europa bedeutet das, dass sie wahrscheinlich unter die Medical Device Regulation (MDR) fallen.

Warum die MDR KI-Schreibassistenten erfassen muss

Große Sprachmodelle haben der Spracherkennung im Gesundheitswesen ein neues Paradigma eröffnet: KI-Schreibassistenten. Diese Tools erfassen Sprache nicht nur wörtlich, sondern generieren strukturierte Dokumentationsentwürfe.

Wenn solche Entwürfe Teil der Patientenakte werden, unterstützt der Schreibassistent die klinische Dokumentation. Damit fällt er unter die Definition eines Medizinprodukts. Gemäß der MDR wird das Tool dadurch in den Anwendungsbereich als Klasse I gemäß Regel 11 eingeordnet, sofern sein Verwendungszweck auf administrative Unterstützung beschränkt ist und keine Informationen für diagnostische oder therapeutische Entscheidungen bereitgestellt werden.

Die Regulierungsbehörden erkennen sowohl die potenziellen Vorteile als auch die damit verbundenen Risiken an. Deshalb sind Risikomanagement und Aufsicht erforderlich. Ohne MDR-Klassifizierung müssen Unternehmen nicht die Regeln befolgen, die sicherstellen, dass Medizinprodukte sicher, getestet und kontinuierlich überwacht werden. Im Gesundheitswesen, wo selbst kleine Fehler die Patientenversorgung beeinträchtigen können, ist es nicht mehr akzeptabel, diese Lücke unreguliert zu lassen.

Regulierungsbehörden haben begonnen, die CE-Kennzeichnung zu fordern

Europäische Gesundheitsaufsichtsbehörden sind zu dem Schluss gekommen, dass für KI-Medizinschreiber eine CE-Kennzeichnung erforderlich ist. Im Vereinigten Königreich hat beispielsweise NHS England Leitlinien für die Einführung von KI-gestützten Schreibtools veröffentlicht. Diese signalisieren deren Behandlung als Software as a Medical Device (SaMD) in klinischen Umgebungen und dass sie bei der Medicines and Healthcare products Regulatory Agency (MHRA) registriert werden müssen.

Sowohl öffentliche als auch private Gesundheitseinrichtungen in ganz Europa haben begonnen, eine CE-Kennzeichnung für KI-Medizinschreiber-Produkte zu fordern.

Die Rolle der CE-Kennzeichnung bei KI im Gesundheitswesen

In Europa ist die CE-Kennzeichnung das Signal, dass ein Medizinprodukt der MDR entspricht und strenge Anforderungen an Sicherheit und Leistung erfüllt. Für KI-Schreibassistenten ist dies auf mehreren Ebenen wichtig:

• Die Software unterliegt der Marktüberwachung nach dem Inverkehrbringen. Probleme werden schnell erkannt und behoben.

• Menschliche Faktoren und Gebrauchstauglichkeit werden bewertet. Das verringert die Wahrscheinlichkeit von Fehlern am Point of Care.

• Transparenz- und Meldepflichten gewährleisten die Rechenschaftspflicht des Anbieters.

Für Behandler ist die CE-Kennzeichnung ein Synonym für Vertrauen. Sie zeigt ihnen, dass das von ihnen verwendete KI-Tool nach demselben Standard wie andere Geräte in der Klinik entwickelt, getestet und überwacht wurde.

KI-Medizinschreiber können sehr unterschiedlich entwickelt sein, mit verschiedenen Qualitätskontrollen und Sicherheitsmechanismen. Die CE-Kennzeichnung ist eine externe Bestätigung, dass das Produkt entwickelt wurde, um die Anforderungen an Sicherheit und Leistung zu erfüllen.

Warum MDR-Konformität für das Gesundheitswesen wichtig ist

Die Einbeziehung von KI-Schreibassistenten unter die MDR kommt allen im Gesundheitssystem zugute:

• Für Behandler: Das Vertrauen, dass ihre Notizen von Technologie unterstützt werden, die nach klinischen Sicherheitsstandards entwickelt wurde.

• Für Patienten: Die Gewissheit, dass ihre Akten unter Aufsicht dokumentiert werden und nicht unregulierter Software überlassen bleiben.

• Für Gesundheitssysteme: Mehr Sicherheit bei der Beschaffung, reibungslosere Einführung und ein Rahmen für langfristige Rechenschaftspflicht.

Bei der MDR geht es nicht nur um Richtlinien. Sie stellt sicher, dass KI im Gesundheitswesen sicher, zuverlässig und wirklich unterstützend für die klinische Versorgung ist.

Ausblick: Die Zukunft regulierter KI im Gesundheitswesen

KI wird eine wachsende Rolle in der Medizin spielen. Die Regulierung wird bestimmen, wie sicher sie skaliert. Die EU-MDR bietet einen klaren Rahmen, um Verbraucher-Produktivitätstools von medizinischer Technologie abzugrenzen.

Für KI-Schreibassistenten ist die Richtung klar: Wenn sie Teil der Patientenakte werden, müssen sie die Standards eines Medizinprodukts erfüllen. So behalten Behandler die Kontrolle und die Patientensicherheit bleibt stets gewährleistet.

FAQ

Schnelle Antworten zur Regulierung von KI-Schreibassistenten:

Gelten KI-Schreibassistenten in Europa als Medizinprodukte?

Nicht automatisch. Gemäß der EU-Medizinprodukteverordnung (MDR 2017/745) qualifiziert sich Software als Medizinprodukt basierend auf ihrem Verwendungszweck. Wenn ein KI-Schreibassistent klinische Notizen generiert oder gestaltet, handelt es sich um Medizinprodukte-Software, die gemäß Regel 11 von Anhang VIII klassifiziert wird.

Und wie sieht es im Vereinigten Königreich aus?

Die Position des Vereinigten Königreichs ist eindeutig. Die MHRA wendet denselben Verwendungszweck-Test wie die EU an, wenn es um die Qualifizierung und Klassifizierung von Medizinprodukten geht. NHS England hat ebenfalls Leitlinien für die Einführung von KI-gestützten Schreibtools veröffentlicht, die deren Behandlung als Software as a Medical Device (SaMD) in klinischen Umgebungen signalisieren und eine Registrierung bei der Medicines and Healthcare products Regulatory Agency (MHRA) verlangen.

Was bedeutet die CE-Kennzeichnung für KI-Schreibassistenten?

Die CE-Kennzeichnung zeigt an, dass das Produkt der MDR entspricht und die geltenden EU-Sicherheits- und Leistungsanforderungen erfüllt. Sie beinhaltet auch Verpflichtungen zur Marktüberwachung nach dem Inverkehrbringen.

Warum sollten KI-Schreibassistenten unter der MDR reguliert werden?

Weil sie Patientenakten und damit auch die Versorgung beeinflussen. Die MDR-Aufsicht gewährleistet Sicherheit, Leistung und Rechenschaftspflicht von Medizinprodukten im klinischen Einsatz.

Wie profitieren Behandler, die KI-Schreibassistenten verwenden, von der MDR?

Sie gibt Behandlern die Gewissheit, dass Tools nach medizinischen Standards entwickelt, bewertet und überwacht werden – mit klarem Verwendungszweck, Risikoklassifizierung und Anforderungen an die Marktüberwachung nach dem Inverkehrbringen (MDCG 2019-11 Leitlinie).

Was ist mit dem neuen EU-KI-Gesetz?

Wenn ein KI-Schreibassistent ein Medizinprodukt gemäß MDR ist und in die Klasse IIa oder höher fällt, gilt er gemäß dem KI-Gesetz als Hochrisiko und muss eine Konformitätsbewertung durch Dritte durchlaufen. Software der Klasse I, wie ein KI-Schreibassistent wie Tandem, wird gemäß dem KI-Gesetz nicht als Hochrisiko behandelt. Dennoch muss sie möglicherweise Transparenzregeln befolgen, wenn sie mit Nutzern interagiert oder synthetische Inhalte generiert (siehe Leitlinie zum Zusammenspiel zwischen MDR und KI-Gesetz).