Introduktion: AI inom hälso- och sjukvård möter reglering

I år har diskussionerna om artificiell intelligens inom hälso- och sjukvård flyttat från konferenser till regelverk. Europeiska hälsomyndigheter drar en tydligare gräns: när AI påverkar klinisk dokumentation är det inte längre bara produktivitetsprogramvara – det är en medicinteknisk produkt.

För AI-scribe är denna skillnad avgörande. Om de utformar journalanteckningar kan de påverka patientvården. I Europa innebär det att de sannolikt omfattas av EU:s förordning om medicintekniska produkter (EU MDR).

Varför EU MDR omfattar AI-scribe

Stora språkmodeller har gjort det möjligt för taligenkänning inom hälso- och sjukvård att ta nästa steg. Dessa verktyg fångar inte bara tal ordagrant, utan genererar även strukturerad utkastdokumentation. När sådana utkast blir en del av patientens journalanteckning stödjer AI-scribe den kliniska dokumentationen och omfattas därmed av definitionen av en medicinteknisk produkt.

Enligt EU MDR innebär detta att verktyget klassificeras som Klass I enligt Regel 11, förutsatt att dess avsedda användning är begränsad till administrativt stöd och inte tillhandahåller information för diagnostiska eller terapeutiska beslut. Tillsynsmyndigheter ser både de potentiella fördelarna och de tillhörande riskerna. Därför krävs riskhantering och tillsyn.

Utan EU MDR-klassificering behöver företag inte följa de regler som säkerställer att medicintekniska produkter är säkra, testade och kontinuerligt övervakade. Inom hälso- och sjukvården, där även små misstag kan påverka patientvården, är det inte längre acceptabelt att lämna den luckan oreglerad.

Tillsynsmyndigheter kräver nu CE-märkning

Under det senaste året har europeiska hälsotillsynsmyndigheter dragit slutsatsen att CE-märkning krävs för AI-scribe. Till exempel har NHS England i Storbritannien publicerat vägledning för införande av AI-baserade skribentverktyg. Vägledningen visar att dessa betraktas som programvara för medicintekniska produkter (SaMD) i kliniska miljöer och att de behöver registreras hos Medicines and Healthcare products Regulatory Agency (MHRA).

Runt om i Europa har både offentliga och privata vårdgivare börjat kräva CE-märkning för AI-scribe-produkter.

CE-märkningens roll inom AI för hälso- och sjukvård

I Europa är CE-märkning en signal om att en medicinteknisk produkt överensstämmer med EU MDR och uppfyller strikta krav på säkerhet och prestanda. För AI-scribe spelar detta roll på flera nivåer:

• Programvaran omfattas av övervakning efter att den släppts på marknaden, så eventuella problem upptäcks och åtgärdas snabbt.

• Mänskliga faktorer och användbarhet utvärderas, vilket minskar risken för fel i vårdsituationen.

• Krav på transparens och rapportering säkerställer leverantörens ansvar.

För kliniker är CE-märkning en genväg till förtroende. Den visar att det AI-verktyg de använder har utformats, testats och övervakats enligt samma standarder som andra produkter på kliniken.

AI-scribe kan utvecklas på mycket olika sätt, med varierande grad av kvalitetskontroller och säkerhetsmekanismer. En CE-märkning är en extern bekräftelse på att produkten har utvecklats för att uppfylla säkerhets- och prestandakrav.

Varför efterlevnad av EU MDR är viktigt för hälso- och sjukvård

Att inkludera AI-scribe under EU MDR gynnar alla inom hälso- och sjukvårdssystemet:

• För kliniker: trygghet i att deras journalanteckningar stöds av teknik byggd enligt kliniska säkerhetsstandarder.

• För patienter: säkerhet i att deras journalanteckningar dokumenteras under tillsyn, inte lämnas åt oreglerad programvara.

• För hälso- och sjukvårdssystem: ökat förtroende vid upphandling, smidigare införande och ett ramverk för långsiktigt ansvar.

EU MDR handlar inte bara om policyer, utan om att säkerställa att AI inom hälso- och sjukvård är säker, pålitlig och verkligen stödjer den kliniska vården.

Framåtblick: framtiden för reglerad AI inom hälso- och sjukvård

AI kommer att spela en allt större roll inom medicinen, men reglering kommer att avgöra hur säkert den kan skalas upp. EU MDR ger ett tydligt ramverk för att skilja konsumentinriktade produktivitetsverktyg från medicintekniska lösningar.

För AI-scribe är riktningen tydlig. Om de utgör en del av journalanteckningen behöver de uppfylla kraven för en medicinteknisk produkt. På så vis behåller kliniker kontrollen och patientsäkerheten äventyras aldrig.

Vanliga frågor

Snabba svar om reglering av AI-scribe:

Betraktas AI-scribe som medicintekniska produkter i Europa?

Inte automatiskt. Enligt EU:s förordning om medicintekniska produkter (EU MDR 2017/745) klassas programvara som medicinteknisk produkt utifrån dess avsedda användning. Om en AI-scribe genererar eller utformar journalanteckningar är det programvara som är en medicinteknisk produkt och klassificeras enligt Regel 11 i bilaga VIII.

Vad gäller i Storbritannien?

Storbritanniens hållning är tydlig. MHRA tillämpar samma test för avsedd användning som EU när de kvalificerar och klassificerar medicintekniska produkter. NHS England har också publicerat vägledning för införande av AI-baserade skribentverktyg. Vägledningen visar att dessa betraktas som programvara för medicintekniska produkter (SaMD) i kliniska miljöer och att de behöver registreras hos Medicines and Healthcare products Regulatory Agency (MHRA).

Vad betyder CE-märkning för AI-scribe?

CE-märkning visar att produkten överensstämmer med EU MDR och uppfyller tillämpliga EU-krav på säkerhet och prestanda. Det innebär också krav på övervakning efter att produkten släppts på marknaden.

Varför bör AI-scribe regleras enligt EU MDR?

Eftersom de påverkar journalanteckningar och i förlängningen vården. Tillsyn enligt EU MDR säkerställer säkerhet, prestanda och ansvar för medicintekniska produkter i klinisk användning.

Hur gynnar EU MDR kliniker som använder AI-scribe?

Det ger kliniker trygghet i att verktyg är utformade, bedömda och övervakade enligt medicinska standarder, med tydlig avsedd användning, riskklassificering och krav på övervakning efter att produkten släppts på marknaden (MDCG 2019-11 vägledning).

Vad gäller den nya EU AI-förordningen?

Om en AI-scribe är en medicinteknisk produkt enligt EU MDR och tillhör klass IIa eller högre, betraktas den som högrisk enligt AI-förordningen och måste genomgå bedömning av överensstämmelse av tredje part. Klass I-programvara, som en AI-scribe såsom Tandem, betraktas inte som högrisk enligt AI-förordningen. Ändå kan den behöva följa transparensregler vid interaktion med användare eller generering av syntetiskt innehåll (se vägledning om samspelet mellan EU MDR och AI-förordningen).