Ein klinisches Entscheidungsunterstützungssystem (eine Software, die Patientendaten analysiert, um klinische Empfehlungen zu generieren) kann jeden Software-Qualitätstest eines Anbieters bestehen und dennoch unsicher für die Patientinnen und Patienten sein, die eine Hausärztin oder ein Hausarzt an einem Montagmorgen behandelt. Die Logik mag fehlerfrei funktionieren. Die Benutzeroberfläche mag responsiv und intuitiv sein. Die Datenpipeline mag voll funktionsfähig sein. Doch wenn das zugrunde liegende Modell an stationären Krankenhauspatienten trainiert, in einem nicht-europäischen Gesundheitssystem validiert oder nie an den undifferenzierten Präsentationen getestet wurde, die die hausärztliche Versorgung kennzeichnen, kann das Tool Empfehlungen erzeugen, die im tatsächlichen Anwendungskontext systematisch irreführend sind. Für Entscheidungsträger im Gesundheitswesen, die solche Tools evaluieren – sei es auf Praxis-, Netzwerk- oder Beschaffungsebene –, ist das Verständnis dessen, was eine rigorose Validierung ausmacht und was nicht, inzwischen eine zentrale Governance-Verantwortung.

Warum Validierung nicht dasselbe ist wie Softwaretest

Softwaretests bestätigen, dass sich ein System so verhält, wie die Entwickler es beabsichtigt haben. Klinische Validierung stellt eine andere Frage: Führt das beabsichtigte Verhalten des Systems zu sicheren und wirksamen Ergebnissen für reale Patientinnen und Patienten in einer echten klinischen Umgebung?

Diese Unterscheidung ist wichtig, weil ein Tool technisch korrekt und dennoch klinisch schädlich sein kann. Ein Algorithmus, der einen Risiko-Score aus einem Datensatz nordamerikanischer Krankenhauspatienten präzise berechnet, kann das Risiko in einer europäischen hausärztlichen Population mit anderer Demografie, anderen Komorbiditätsmustern und anderem Inanspruchnahmeverhalten systematisch unter- oder überschätzen. Ein Verordnungsentscheidungsunterstützungssystem, das in der stationären Versorgung validiert wurde, kann Warnmeldungen generieren, die auf von Spezialisten betreute Patientinnen und Patienten kalibriert sind, was beim Einsatz in der hausärztlichen Versorgung zu Alarmmüdigkeit oder übersehenen Signalen führen kann.

Eine systematische Übersichtsarbeit zu Designansätzen für klinische Entscheidungsunterstützungssysteme, veröffentlicht im Journal of Medical Internet Research, identifiziert das Vertrauen der Behandelnden und die Erklärbarkeit als zentrale Herausforderungen bei der Einführung. Dies sind Probleme, die aus Validierungsfehlern resultieren, nicht aus Softwarefehlern. Wenn die Empfehlungen eines Tools nicht mit der klinischen Realität übereinstimmen, die eine Hausärztin oder ein Hausarzt beobachtet, schwindet das Vertrauen – unabhängig davon, ob die Software technisch korrekt funktioniert.

Klinische Validierung erfordert den Nachweis, dass ein Tool präzise, sichere und klinisch angemessene Ergebnisse für die spezifische Population und das Setting erzeugt, in dem es eingesetzt werden soll – nicht nur den Nachweis, dass es überhaupt Ergebnisse liefert.

Die regulatorische Landschaft: Wo die Medizinprodukteverordnung die Grenze zieht

Nicht jedes klinische Entscheidungsunterstützungssystem ist ein Medizinprodukt gemäß EU-Medizinprodukteverordnung (EU-MDR) 2017/745, aber eine signifikante und wachsende Zahl ist es. Die entscheidende regulatorische Unterscheidung besteht zwischen Tools, die allgemeine klinische Informationen bereitstellen, und solchen, die eine klinische Entscheidung für eine individuelle Patientin oder einen individuellen Patienten steuern oder direkt beeinflussen.

Gemäß Medizinprodukteverordnung (EU-MDR) erfüllt eine Software, die patientenspezifische Daten analysiert, um Empfehlungen für Diagnose, Behandlung, Risikostratifizierung oder Verordnung zu generieren, wahrscheinlich die Definition eines Medizinprodukts. Sobald sie als solches klassifiziert ist, muss sie eine CE-Kennzeichnung tragen, was vom Hersteller verlangt, klinische Nachweise für Sicherheit und Leistung zu erbringen, bevor das Tool auf den europäischen Markt gebracht wird.

Ab 2026 unterliegen Hersteller KI-gestützter Medizinprodukte einer doppelten Compliance sowohl unter EU-MDR als auch unter dem EU-KI-Gesetz. Das KI-Gesetz stuft KI-basierte klinische Entscheidungsunterstützungssysteme automatisch als Hochrisiko-Systeme ein, was verpflichtende Konformitätsbewertungen, Bias-Monitoring, Transparenzpflichten und Anforderungen an menschliche Aufsicht auslöst, die über das hinausgehen, was die EU-MDR allein verlangte. Der MyHealth@EU-Compliance-Rahmen fügt eine weitere Ebene für Tools hinzu, die grenzüberschreitend in EU-Mitgliedstaaten eingesetzt werden, und verlangt, dass KI-spezifische Metadaten und Herkunftsdokumentation in klinische Datenaustausch-Nachrichten eingebettet werden.

Die CE-Kennzeichnung ist keine Garantie für die Eignung in einem bestimmten klinischen Kontext. Sie ist eine Erklärung des Herstellers, dass das Produkt die anwendbaren regulatorischen Anforderungen erfüllt. Die CE-Kennzeichnung ist Voraussetzung für den rechtmäßigen Einsatz in Europa, aber keine hinreichende Bedingung für die klinische Einführung in einem bestimmten Setting.

Eine peer-reviewte Analyse, veröffentlicht in npj Health Systems, identifiziert signifikante Lücken in den aktuellen EU-MDR-Standards für datengetriebene und adaptive KI-Systeme. Diese Lücken bedeuten, dass einige Tools regulatorische Compliance erreichen können, während ihnen dennoch die rigorose klinische Validierung fehlt, die der Einsatz in der hausärztlichen Versorgung erfordert.

Was klinische Validierung tatsächlich umfasst

Klinische Validierung ist ein strukturierter Prozess, um nachzuweisen, dass ein Tool wie beabsichtigt über eine definierte Patientenpopulation hinweg funktioniert. Für klinische Entscheidungsunterstützungssysteme umfassen die Kernkomponenten:

• Nachweis klinischer Genauigkeit: Nachgewiesene Leistung gegenüber einem Referenzstandard, zum Beispiel Vergleich von Risiko-Scores mit unabhängig validierten Algorithmen oder Vergleich von Empfehlungen mit einer Expertenprüfung. Ein frühes Beispiel dieser Methodik findet sich in einer Mixed-Methods-Evaluation eines kardiovaskulären klinischen Entscheidungsunterstützungssystems in der hausärztlichen Versorgung, bei der der Risikobewertungsalgorithmus des Tools mit einer unabhängig programmierten Version verglichen wurde und einen Intraklassen-Korrelationskoeffizienten von 0,999 erreichte. Behandlungsempfehlungen wurden gegen ärztliche Empfehlungen aus manueller Leitlinienprüfung überprüft.

• Repräsentative Populationsdaten: Nachweis, dass der Validierungsdatensatz die demografischen, klinischen und sozioökonomischen Merkmale der Population widerspiegelt, in der das Tool eingesetzt werden soll. Eine Validierung an einem engen oder nicht repräsentativen Datensatz begrenzt die Generalisierbarkeit von Leistungsaussagen.

• Unabhängige Prüfung: Interne Validierung durch den Hersteller ist notwendig, aber nicht ausreichend. Peer-reviewte Publikation, unabhängige Prüfung oder Evaluation durch Dritte bieten eine Kontrolle der methodischen Qualität und der Integrität von Leistungsaussagen.

• Prospektive oder retrospektive Studien im Zielsetting: Retrospektive Analysen vorhandener Daten können eine Baseline-Leistung etablieren, aber prospektive Studien – idealerweise im tatsächlichen Versorgungssetting – liefern stärkere Nachweise für den klinischen Nutzen in der realen Welt.

Validierung, die in einem Land oder Versorgungskontext durchgeführt wurde, lässt sich nicht automatisch übertragen. Eine Scoping-Review zur Implementierung von Asthma-Entscheidungsunterstützungssystemen in der hausärztlichen Versorgung, die 18 Studien in Settings einschließlich Großbritannien und Spanien abdeckt, veranschaulicht, wie Implementierungsergebnisse signifikant zwischen Gesundheitssystemen variieren – selbst innerhalb Europas –, abhängig von Workflow-Integration, Patientenpopulationsmerkmalen und lokalen klinischen Leitlinien.

Wie die hausärztliche Versorgung spezifische Validierungsherausforderungen mit sich bringt

Die hausärztliche Versorgung stellt Bedingungen dar, die sich strukturell von den Krankenhaus- und Spezialistensettings unterscheiden, in denen viele klinische Entscheidungsunterstützungssysteme zuerst entwickelt und validiert werden. Diese Unterschiede beeinflussen, ob die Leistung eines Tools in einem Setting seine Leistung in einem anderen vorhersagt.

Die Merkmale der hausärztlichen Versorgung, die die Übertragbarkeit der Validierung erschweren, umfassen:

• Undifferenzierte Präsentationen: Hausärztinnen und Hausärzte begegnen Patientinnen und Patienten, bevor eine Diagnose gestellt wurde. Ein Tool, das an kodierten Diagnosen aus stationären Versorgungsakten validiert wurde, kann schlecht funktionieren, wenn es auf die mehrdeutigen, symptombasierten Präsentationen angewendet wird, die in einer Hausarztpraxis auftreten.

• Zeitdruck und kognitive Belastung: Hohe Versorgungsnachfrage und fragmentierte Strukturen sind anerkannte Merkmale hausärztlicher Versorgungssysteme in ganz Europa. Ein Tool, das erhebliche Dateneingabe erfordert oder den klinischen Ablauf unterbricht, kann Workarounds hervorrufen, die seine beabsichtigte Funktion und validierte Leistung untergraben.

• Diversität und nicht selektierte Demografie: Krankenhaus-Validierungspopulationen werden durch Überweisungswege und Aufnahmekriterien selektiert, Hausarztpopulationen nicht. Alter, Multimorbidität, Gesundheitskompetenz und sozioökonomische Vielfalt in der hausärztlichen Versorgung können sich erheblich von Krankenhauskohorten unterscheiden und sowohl die Prävalenz von Erkrankungen als auch die Basisraten beeinflussen, von denen prädiktive Algorithmen abhängen.

• Integration mit bestehenden Systemen: Eine qualitative Studie eines Prototyps eines klinischen Entscheidungsunterstützungssystems in der deutschen hausärztlichen Versorgung, das SATURN-Projekt, fand heraus, dass iterative Co-Entwicklung mit Hausärztinnen und Hausärzten sowie Usability-Tests wesentlich waren, um Implementierungsbarrieren zu identifizieren, die in einer kontrollierten Validierungsstudie nicht sichtbar gewesen wären. Technische Leistung und klinische Benutzerfreundlichkeit sind verwandte, aber unterschiedliche Dimensionen der Validierung.

Eine Scoping-Review zu Verordnungsentscheidungsunterstützungssystemen in der hausärztlichen Versorgung, veröffentlicht Anfang 2025, kartiert Evidenzlücken in diesem Bereich und stellt fest, dass Implementierungswirkungsdaten für hausärztliche Verordnungstools begrenzt bleiben und dass Studiendesigns erheblich in ihrer Rigorosität variieren, was den direkten Vergleich von Anbieter-Validierungsaussagen erschwert.

Die Rolle von Real-World-Evidenz nach dem Einsatz

Validierung vor dem Einsatz etabliert eine Leistungs-Baseline unter kontrollierten oder semi-kontrollierten Bedingungen. Sie kann nicht jedes klinische Szenario, jede Populationsverschiebung oder jede Leitlinienänderung antizipieren, die nach der Einführung eines Tools auftreten. Deshalb ist klinische Nachbeobachtung nach dem Inverkehrbringen (PMCF) eine verpflichtende Anforderung unter der EU-MDR für Medizinprodukte-Software – keine optionale Qualitätsverbesserungsmaßnahme.

PMCF verlangt von Herstellern, systematisch Real-World-Evidenz zur Produktleistung nach dem Einsatz zu sammeln und zu überprüfen. Für klinische Entscheidungsunterstützungssysteme bedeutet dies:

• Laufendes Monitoring der Empfehlungsgenauigkeit und Warnraten im Live-Klinikbetrieb

• Überwachung auf neu auftretende Sicherheitssignale, einschließlich Mustern von Behandler-Überschreibungen oder Nicht-Nutzung, die auf systematische Fehler hinweisen können

• Periodische Neubewertung der Leistung, wenn sich Patientenpopulationen ändern oder klinische Leitlinien aktualisiert werden

• Dokumentation der Befunde und, wo nötig, Korrekturmaßnahmen

Die Anforderungen des EU-KI-Gesetzes an die kontinuierliche Risikobewertung nach dem Inverkehrbringen verstärken und erweitern diese Verpflichtungen für KI-klassifizierte Tools und verlangen Vorfallsmonitoring sowie Ausrichtung an der aufkommenden europäischen Gesundheitsdateninfrastruktur.

Entscheidungsträger im Gesundheitswesen sollten Anbieter nicht nur fragen, welche Validierung vor dem Einsatz durchgeführt wurde, sondern auch, welche Infrastruktur für die klinische Nachbeobachtung nach dem Inverkehrbringen vorhanden ist und wie Befunde an einsetzende Organisationen kommuniziert werden. Ein Anbieter ohne klaren Plan für das Monitoring nach dem Einsatz stellt ein Governance-Risiko sowie ein klinisches Risiko dar.

Die Sammlung von Real-World-Evidenz in der hausärztlichen Versorgung ist strukturell anspruchsvoll. Hohes Patientenaufkommen, variable Datenqualität in Praxisverwaltungssystemen und das Fehlen standardisierter Ergebnismessungen erschweren es, subtile Leistungsverschlechterungen in eingesetzten klinischen Entscheidungsunterstützungssystemen zu erkennen. Dies mindert nicht die Verpflichtung, solche Evidenz zu sammeln. Es bedeutet jedoch, dass die Qualität von Plänen zur klinischen Nachbeobachtung nach dem Inverkehrbringen erheblich variiert und entsprechend geprüft werden sollte.

Datenanforderungen: DSGVO, Datenhaltung und Transparenz der Trainingsdaten

Die Qualität eines klinischen Entscheidungsunterstützungssystems ist untrennbar mit der Qualität, Herkunft und Repräsentativität der Daten verbunden, mit denen es trainiert und getestet wurde. Für europäische Entscheidungsträger im Gesundheitswesen sind drei datenbezogene Fragen besonders wichtig.

DSGVO-Compliance und rechtmäßige Datennutzung: Trainingsdaten für klinische KI müssen rechtmäßig erhoben worden sein. Gemäß der Datenschutz-Grundverordnung (DSGVO) erfordert dies typischerweise entweder ausdrückliche Patienteneinwilligung, eine legitime Rechtsgrundlage für die Verarbeitung von Gesundheitsdaten oder die Verwendung von Daten, die angemessen anonymisiert wurden. Anbieter sollten in der Lage sein, nachzuweisen – nicht nur zu behaupten –, dass ihre Trainingsdaten in Übereinstimmung mit dem anwendbaren Datenschutzrecht erhoben wurden. Der Rahmen der Europäischen Kommission für KI im Gesundheitswesen positioniert den Europäischen Gesundheitsdatenraum (EHDS), wobei die EHDS-Verordnung 2025 in Kraft tritt und eine schrittweise Implementierung über die Mitgliedstaaten in den Folgejahren erfolgt, als primären Mechanismus zur Ermöglichung der rechtmäßigen Nutzung von Gesundheitsdaten für KI-Training und -Evaluation über Mitgliedstaaten hinweg.

Datenhaltung in der EU: Wo Patientendaten während der Inferenz verarbeitet werden – das heißt, wenn das Tool die Daten einer realen Patientin oder eines realen Patienten analysiert, um eine Empfehlung zu generieren –, ist für die DSGVO-Compliance relevant. Daten, die außerhalb der EU oder des Europäischen Wirtschaftsraums verarbeitet werden, unterliegen Übermittlungsbeschränkungen, sofern keine angemessenen Schutzmaßnahmen vorhanden sind. Entscheidungsträger im Gesundheitswesen sollten bestätigen, dass die Verarbeitungsinfrastruktur eines Anbieters die EU-Anforderungen an die Datenhaltung erfüllt – nicht nur, dass der Anbieter allgemein DSGVO-Compliance beansprucht.

Repräsentativität der Trainingsdaten und Bias: Ein Tool, das überwiegend mit Daten aus einer demografischen Gruppe, einem Gesundheitssystem oder einem Krankheitsprävalenzkontext trainiert wurde, kann anders und weniger sicher funktionieren, wenn es auf eine andere Population angewendet wird. Leitlinien zur doppelten Compliance für KI-Medizinprodukte unter EU-MDR und dem KI-Gesetz verlangen nun von Herstellern, Bias-Monitoring zu dokumentieren und nachzuweisen, dass Trainingsdaten repräsentativ für die beabsichtigte Nutzungspopulation waren. Entscheidungsträger sollten Anbieter auffordern, diese Dokumentation bereitzustellen, anstatt allgemeine Zusicherungen zu akzeptieren.

Was Sie einen Anbieter fragen sollten, bevor Sie ein klinisches Entscheidungsunterstützungssystem einführen

Die folgenden Fragen bieten einen praktischen Evaluierungsrahmen für Hausärztinnen und Hausärzte, Praxismanager und klinische Leitungen, die ein klinisches Entscheidungsunterstützungssystem vor der Einführung bewerten. Sie decken die Dimensionen ab, die am ehesten Lücken zwischen den Aussagen eines Anbieters und der Rigorosität seiner Evidenzbasis aufdecken.

Regulatorischer Status:

• Ist dieses Tool als Medizinprodukt gemäß EU-MDR 2017/745 klassifiziert? Wenn ja, welche Klassifizierung hat es (Klasse I, IIa, IIb oder III)?

• Trägt es eine CE-Kennzeichnung, und können Sie die Konformitätserklärung bereitstellen?

• Wurde es gemäß der Hochrisiko-Klassifizierung des EU-KI-Gesetzes bewertet? Wenn ja, welche Konformitätsbewertung wurde abgeschlossen?

Klinische Evidenz:

• Welche klinischen Validierungsstudien wurden durchgeführt, und sind sie in peer-reviewten Zeitschriften veröffentlicht?

• Wurden Validierungsstudien in europäischen hausärztlichen Versorgungssettings oder in anderen Versorgungskontexten durchgeführt?

• Welche Merkmale hatte die Validierungspopulation, einschließlich Alter, Komorbiditätsprofil, Ethnizität und Gesundheitssystem?

Leistung und Transparenz:

• Welche Leistungsmetriken werden berichtet (Sensitivität, Spezifität, positiver prädiktiver Wert, Warnraten)?

• Kann das Tool seine Empfehlungen in Begriffen erklären, die eine Behandlerin oder ein Behandler bewerten kann? Ist die Modelllogik transparent oder eine Black Box?

• Wie funktioniert das Tool über demografische Untergruppen hinweg?

Nach dem Einsatz:

• Welcher Plan zur klinischen Nachbeobachtung nach dem Inverkehrbringen ist vorhanden, und wie werden Befunde an einsetzende Organisationen berichtet?

• Wie werden Modell-Updates verwaltet, und erfolgt eine Revalidierung, bevor Updates eingesetzt werden?

Daten und Integration:

• Wo werden Patientendaten verarbeitet, und erfüllt dies die EU-Anforderungen an die Datenhaltung?

• Kann das Tool mit unserem bestehenden Praxisverwaltungssystem integriert werden, ohne erhebliche zusätzliche Dateneingabe zu erfordern?

• Welche Informationssicherheitszertifizierung hat der Anbieter (zum Beispiel ISO 27001)?

Warnsignale: Wann Validierungsaussagen eines Anbieters genauer geprüft werden sollten

Einige Validierungsaussagen sind technisch korrekt, aber praktisch irreführend. Die folgenden Muster sollten eine genauere Prüfung durch Entscheidungsträger im Gesundheitswesen veranlassen.

Validierung ausschließlich außerhalb Europas durchgeführt. Ein Tool, das in den Vereinigten Staaten, Australien oder einem anderen nicht-europäischen Gesundheitssystem validiert wurde, wurde möglicherweise an Populationen mit unterschiedlicher Krankheitsprävalenz, Versorgungswegen und klinischen Kodierungspraktiken getestet. Dies disqualifiziert die Evidenz nicht automatisch, erfordert aber vom Anbieter den Nachweis, warum die Befunde übertragbar sind – nicht einfach die Behauptung, dass sie es sind. Evidenz aus der Implementierung von Asthma-Entscheidungsunterstützungssystemen in europäischen hausärztlichen Versorgungssettings zeigt, dass Ergebnisse selbst innerhalb Europas variieren, was nicht-europäische Validierung zu einer bedeutsamen Einschränkung macht.

Validierung nur an stationären Versorgungspopulationen oder Spezialistenpopulationen. Stationäre Krankenhauspatienten und überwiesene Spezialistenpatienten sind nicht repräsentativ für die undifferenzierte Population, die sich in der hausärztlichen Versorgung präsentiert. Ein Tool, das ausschließlich in diesen Settings validiert wurde, wurde nicht an den Patientinnen und Patienten getestet, für die eine Hausärztin oder ein Hausarzt es tatsächlich verwenden wird.

Fehlen unabhängiger Peer-Review. Interne Validierungsberichte, die vom Hersteller erstellt wurden, sind nicht gleichwertig mit peer-reviewten Publikationen oder unabhängiger Prüfung. Wenn ein Anbieter nicht auf extern überprüfte Evidenz verweisen kann, sollte die Validierungsbasis als vorläufig betrachtet werden.

Undurchsichtige Modelllogik. Wenn ein Anbieter nicht erklären kann oder will, wie das Tool zu seinen Empfehlungen gelangt, können Behandelnde nicht sinnvoll bewerten, ob eine Empfehlung für eine spezifische Patientin oder einen spezifischen Patienten angemessen ist. Erklärbare KI wird in der Literatur zum Design klinischer Entscheidungsunterstützungssysteme als Voraussetzung für das Vertrauen der Behandelnden und eine sichere Einführung identifiziert – nicht als wünschenswertes Merkmal, sondern als funktionale Anforderung.

Kein klarer Plan zur klinischen Nachbeobachtung nach dem Inverkehrbringen. Ein Anbieter, der nicht beschreiben kann, wie er die Real-World-Leistung nach dem Einsatz überwachen wird, hat seine klinischen Evidenzverpflichtungen unter EU-MDR nicht erfüllt. Dies ist eine regulatorische Lücke sowie ein klinisches Risiko.

Behauptungen zur KI-Gesetz-Compliance ohne Details. Angesichts dessen, dass Konformitätsbewertungsanforderungen des KI-Gesetzes für Hochrisiko-Systeme Bias-Monitoring, Transparenzdokumentation und Mechanismen zur menschlichen Aufsicht umfassen, sollte eine allgemeine Compliance-Behauptung ohne unterstützende Dokumentation als ungeprüft betrachtet werden.

Die Beschaffungs- und Governance-Ebene: Wer sonst noch einbezogen werden muss

Die Einführung eines klinischen Entscheidungsunterstützungssystems ist keine Entscheidung, die bei einer einzelnen Hausärztin, einem einzelnen Hausarzt oder Praxismanager liegen kann oder sollte. Sie umfasst klinische, rechtliche, Informations-Governance- und organisatorische Risikodimensionen, die Input von mehreren Rollen erfordern.

Forschung zur Implementierung klinischer Entscheidungsunterstützungssysteme in der niederländischen hausärztlichen Versorgung identifiziert Multi-Stakeholder-Beteiligung als einen der beiden Kernmechanismen, die erfolgreichen Einsatz unterstützen, neben iterativer Co-Entwicklung. Die Studie fand heraus, dass die Einbeziehung von Stakeholdern auf mehreren Ebenen, innovativen und einflussreichen Stakeholdern von Anfang an und die Aufrechterhaltung der Ausrichtung durch eine koordinierende Instanz praktische Voraussetzungen für nachhaltige Implementierung waren. Entscheidungen, die ohne diese Breite an Input getroffen wurden, neigten dazu, Probleme später und mit höheren Kosten aufzudecken.

In europäischen Gesundheitssystemen umfassen die Governance-Rollen, die typischerweise in die Beschaffung klinischer Entscheidungsunterstützungssysteme einbezogen sind:

• Beauftragte für klinische Sicherheit: Verantwortlich für die Bewertung klinischer Risiken und die Sicherstellung, dass der Einsatz eines Tools keine Patientensicherheitsgefahren einführt. In England ist diese Funktion unter dem DCB0160-Standard für klinisches Risikomanagement formalisiert. Äquivalente Rahmenwerke existieren in EU-Mitgliedstaaten.

• Informations-Governance-Verantwortliche: Verantwortlich für die Bewertung der DSGVO-Compliance, Datenverarbeitungsvereinbarungen und Datenhaltung. Datenverarbeitungsvereinbarungen von Anbietern sollten von dieser Funktion überprüft werden, bevor Patientendaten mit einem Tool geteilt werden.

• Beschaffungsstellen und Gesundheitssystem-Einkäufer: In öffentlich finanzierten europäischen Gesundheitssystemen umfasst die Beschaffung klinischer Software typischerweise formale Ausschreibungsverfahren, klinische Evaluierungsgremien und Budget-Impact-Bewertungen. Validierungsevidenz sollte als Teil dieser Prozesse eingereicht werden, nicht als nachvertragliche Überlegung behandelt werden.

• Klinische Informatik- und Praxisverwaltungssystem-Teams: Die Integration mit bestehenden Praxisverwaltungssystemen ist eine technische und klinische Governance-Frage. Ein Tool, das nicht zuverlässig auf die benötigten Daten zugreifen kann oder neue Dateneingabelasten einführt, wird nicht wie validiert funktionieren.

Der im RISED-Modell vorgeschlagene Evaluierungsrahmen vor dem Einsatz für hochriskante KI-Entscheidungsunterstützungssysteme im Gesundheitswesen empfiehlt, Konformitätsbewertung, Transparenzprüfung und das Design der menschlichen Aufsicht als integrierte Komponenten eines einzigen Prozesses vor dem Einsatz zu behandeln – nicht als sequenzielle Schritte, die von separaten Teams verwaltet werden. Für Entscheidungsträger im Gesundheitswesen bedeutet dies, einen funktionsübergreifenden Evaluierungsprozess aufzubauen, bevor eine Beschaffungsentscheidung getroffen wird – nicht nachdem ein Vertrag unterzeichnet ist.

Validierungsevidenz ist in diesem Kontext kein Dokument, das abgelegt werden soll. Sie ist die Grundlage, auf der klinische Governance, Patientensicherheit und organisatorische Rechenschaftspflicht ruhen.

Häufig gestellte Fragen

▶ Was ist der Unterschied zwischen Softwaretest und klinischer Validierung für ein klinisches Entscheidungsunterstützungssystem?

Softwaretests bestätigen, dass sich ein System so verhält, wie die Entwickler es beabsichtigt haben. Klinische Validierung fragt, ob dieses beabsichtigte Verhalten sichere und wirksame Ergebnisse für reale Patientinnen und Patienten in einer echten klinischen Umgebung erzeugt. Ein Tool kann technisch korrekt und gleichzeitig klinisch schädlich sein. Zum Beispiel kann ein Algorithmus, der einen Risiko-Score aus nordamerikanischen Krankenhausdaten präzise berechnet, das Risiko in einer europäischen hausärztlichen Population mit anderer Demografie und anderem Inanspruchnahmeverhalten systematisch unter- oder überschätzen.

▶ Wann qualifiziert sich ein klinisches Entscheidungsunterstützungssystem als Medizinprodukt gemäß EU-Vorschriften?

Gemäß EU-Medizinprodukteverordnung (EU-MDR) 2017/745 erfüllt eine Software, die patientenspezifische Daten analysiert, um Empfehlungen für Diagnose, Behandlung, Risikostratifizierung oder Verordnung zu generieren, wahrscheinlich die Definition eines Medizinprodukts. Sobald sie als solches klassifiziert ist, muss sie eine CE-Kennzeichnung tragen, was vom Hersteller verlangt, klinische Nachweise für Sicherheit und Leistung zu erbringen, bevor das Tool auf den europäischen Markt gebracht wird. Ab 2026 unterliegen KI-gestützte Medizinprodukte auch einer doppelten Compliance sowohl unter EU-MDR als auch unter dem EU-KI-Gesetz.

▶ Garantiert die CE-Kennzeichnung, dass ein klinisches Entscheidungsunterstützungssystem sicher in meiner Praxis eingesetzt werden kann?

Nein. Die CE-Kennzeichnung ist eine Erklärung des Herstellers, dass das Produkt die anwendbaren regulatorischen Anforderungen erfüllt. Sie ist eine notwendige Voraussetzung für den rechtmäßigen Einsatz in Europa, aber keine hinreichende Bedingung für die klinische Einführung in einem bestimmten Setting. Eine peer-reviewte Analyse, veröffentlicht in npj Health Systems, identifiziert signifikante Lücken in den aktuellen EU-MDR-Standards für datengetriebene und adaptive KI-Systeme. Das bedeutet, dass einige Tools regulatorische Compliance erreichen können, während ihnen dennoch die rigorose klinische Validierung fehlt, die der Einsatz in der hausärztlichen Versorgung erfordert.

▶ Warum ist die Validierung eines klinischen Entscheidungsunterstützungssystems für die hausärztliche Versorgung besonders herausfordernd?

Die hausärztliche Versorgung stellt Bedingungen dar, die sich strukturell von den Krankenhaus- und Spezialistensettings unterscheiden, in denen viele Tools zuerst entwickelt werden. Hausärztinnen und Hausärzte begegnen Patientinnen und Patienten, bevor eine Diagnose gestellt wurde, sodass ein Tool, das an kodierten Diagnosen aus stationären Versorgungsakten validiert wurde, schlecht gegen die mehrdeutigen, symptombasierten Präsentationen funktionieren kann, die in einer Hausarztpraxis auftreten. Hausarztpopulationen sind auch diverser in Alter, Multimorbidität und sozioökonomischem Hintergrund als Krankenhauskohorten, was die Basisraten beeinflusst, von denen prädiktive Algorithmen abhängen.

▶ Was bedeutet klinische Nachbeobachtung nach dem Inverkehrbringen für klinische Entscheidungsunterstützungssysteme, und warum ist sie wichtig?

Klinische Nachbeobachtung nach dem Inverkehrbringen (PMCF) ist eine verpflichtende Anforderung unter der EU-MDR für Medizinprodukte-Software. Sie verlangt von Herstellern, systematisch Real-World-Evidenz zur Produktleistung nach dem Einsatz zu sammeln und zu überprüfen. Für klinische Entscheidungsunterstützungssysteme umfasst dies laufendes Monitoring der Empfehlungsgenauigkeit und Warnraten, Überwachung auf Muster von Behandler-Überschreibungen, die auf systematische Fehler hinweisen können, und periodische Neubewertung, wenn sich Patientenpopulationen ändern oder klinische Leitlinien aktualisiert werden. Ein Anbieter ohne klaren Plan für das Monitoring nach dem Einsatz stellt ein Governance-Risiko sowie ein klinisches Risiko dar.

▶ Welche datenbezogenen Fragen sollten Entscheidungsträger im Gesundheitswesen stellen, bevor sie ein klinisches Entscheidungsunterstützungssystem einführen?

Drei Fragen sind besonders wichtig. Erstens: Wurden die Trainingsdaten rechtmäßig gemäß der Datenschutz-Grundverordnung (DSGVO) erhoben, die entweder ausdrückliche Patienteneinwilligung, eine legitime Rechtsgrundlage oder angemessene Anonymisierung erfordert? Zweitens: Wo werden Patientendaten während der Inferenz verarbeitet, und erfüllt dies die EU-Anforderungen an die Datenhaltung? Drittens: Stellt der Anbieter Dokumentation bereit, die zeigt, dass Trainingsdaten repräsentativ für die beabsichtigte Nutzungspopulation waren und dass Bias-Monitoring vorhanden ist? Allgemeine Zusicherungen zur DSGVO-Compliance sind kein Ersatz für spezifische Antworten auf jede dieser Fragen.

▶ Was sind die Warnsignale, die eine genauere Prüfung der Validierungsaussagen eines Anbieters veranlassen sollten?

Mehrere Muster sollten eine genauere Prüfung veranlassen. Validierung, die ausschließlich außerhalb Europas durchgeführt wurde, lässt sich möglicherweise nicht auf europäische hausärztliche Versorgungspopulationen übertragen. Validierung nur an stationären Versorgungspopulationen oder Spezialistenpopulationen bedeutet, dass das Tool nicht an den undifferenzierten Patientinnen und Patienten getestet wurde, für die eine Hausärztin oder ein Hausarzt es tatsächlich verwenden wird. Ein Fehlen unabhängiger Peer-Review bedeutet, dass die Evidenzbasis als vorläufig betrachtet werden sollte. Undurchsichtige Modelllogik verhindert, dass Behandelnde bewerten können, ob eine Empfehlung für eine spezifische Patientin oder einen spezifischen Patienten angemessen ist. Und ein Anbieter, der seinen Plan zur klinischen Nachbeobachtung nach dem Inverkehrbringen nicht beschreiben kann, hat seine klinischen Evidenzverpflichtungen unter EU-MDR nicht erfüllt.

▶ Wer sollte in die Entscheidung zur Einführung eines klinischen Entscheidungsunterstützungssystems einbezogen werden?

Die Einführung eines klinischen Entscheidungsunterstützungssystems ist keine Entscheidung, die bei einer einzelnen Hausärztin, einem einzelnen Hausarzt oder Praxismanager liegen kann. Sie umfasst klinische, rechtliche, Informations-Governance- und organisatorische Risikodimensionen. Die Governance-Rollen, die typischerweise einbezogen sind, umfassen Beauftragte für klinische Sicherheit, Informations-Governance-Verantwortliche, Beschaffungsstellen und klinische Informatik-Teams, die für die Integration von Praxisverwaltungssystemen zuständig sind. Forschung zur Implementierung klinischer Entscheidungsunterstützungssysteme in der niederländischen hausärztlichen Versorgung identifiziert Multi-Stakeholder-Beteiligung als einen der beiden Kernmechanismen, die erfolgreichen Einsatz unterstützen, neben iterativer Co-Entwicklung.

▶ Welche klinische Evidenz sollte ein Anbieter bereitstellen können, bevor ein Tool eingeführt wird?

Anbieter sollten in der Lage sein, peer-reviewte Publikationen klinischer Validierungsstudien, Details zur Validierungspopulation einschließlich Alter, Komorbiditätsprofil, Ethnizität und Gesundheitssystem sowie Leistungsmetriken wie Sensitivität, Spezifität und positiven prädiktiven Wert bereitzustellen. Studien, die in europäischen hausärztlichen Versorgungssettings durchgeführt wurden, haben mehr Gewicht als solche, die in anderen Versorgungskontexten durchgeführt wurden. Interne Validierungsberichte, die vom Hersteller erstellt wurden, sind nicht gleichwertig mit unabhängig überprüfter Evidenz und sollten als vorläufig betrachtet werden, wenn keine externe Prüfung verfügbar ist.

▶ Wie ändert das EU-KI-Gesetz die Compliance-Anforderungen für klinische Entscheidungsunterstützungssysteme?

Das EU-KI-Gesetz stuft KI-basierte klinische Entscheidungsunterstützungssysteme automatisch als Hochrisiko-Systeme ein. Dies löst verpflichtende Konformitätsbewertungen, Bias-Monitoring, Transparenzpflichten und Anforderungen an menschliche Aufsicht aus, die über das hinausgehen, was die EU-MDR allein verlangte. Ab 2026 unterliegen Hersteller KI-gestützter Medizinprodukte einer doppelten Compliance sowohl unter EU-MDR als auch unter dem KI-Gesetz. Eine allgemeine Behauptung zur KI-Gesetz-Compliance ohne unterstützende Dokumentation sollte als ungeprüft betrachtet werden, da die Konformitätsbewertungsanforderungen Bias-Monitoring, Transparenzdokumentation und Mechanismen zur menschlichen Aufsicht umfassen.