Introduksjon: skiftet i helsevesenets AI

Debatten om kunstig intelligens (AI) i helsevesenet har flyttet seg fra konferansescener til reguleringspolitikk. Europeiske helsemyndigheter trekker nå en tydeligere grense: Når AI påvirker klinisk dokumentasjon, er det ikke lenger bare produktivitetsprogramvare. Da regnes det som medisinsk utstyr.

For AI-skribenter er dette skillet avgjørende. Dersom de påvirker pasientjournaler, kan de få betydning for pasientbehandlingen. Og i Europa betyr det at de sannsynligvis omfattes av forordningen om medisinsk utstyr (MDR).

Hvorfor MDR må dekke AI-skribenter

Store språkmodeller har gjort det mulig for talegjenkjenning i helsevesenet å ta steget videre til AI-skribenter. Disse verktøyene fanger ikke bare opp tale ordrett, men genererer også strukturerte utkast til dokumentasjon. Når slike utkast blir en del av pasientens helsejournal, støtter skribenten klinisk dokumentasjon og faller dermed inn under definisjonen av medisinsk utstyr.

Under MDR omfattes dette verktøyet av klasse I etter regel 11, forutsatt at det tiltenkte formålet er begrenset til administrativ støtte uten å gi informasjon for diagnostiske eller terapeutiske beslutninger. Regulatorer anerkjenner både de potensielle fordelene og tilhørende risikoer. Risikostyring og tilsyn er derfor nødvendig.

Uten MDR-klassifisering trenger ikke selskaper å følge reglene som sikrer at medisinsk utstyr er trygt, testet og kontinuerlig overvåket. I helsevesenet, hvor selv små feil kan påvirke pasientbehandlingen, er det ikke lenger akseptabelt å la dette området være uregulert.

Regulatorer har begynt å kreve CE-merking

I løpet av det siste året har europeiske helseregulatorer og myndigheter konkludert med at CE-merking er påkrevd for AI-medisinske skribenter. For eksempel har NHS England i Storbritannia publisert veiledning for innføring av AI-baserte skribentverktøy. Dette signaliserer at de behandles som programvare som medisinsk utstyr (SaMD) i kliniske omgivelser, og at de må registreres hos Medicines and Healthcare products Regulatory Agency (MHRA).

Over hele Europa har både offentlige og private helsetilbydere begynt å kreve CE-merking for AI-medisinske skribentprodukter.

Rollen til CE-merking i AI-helsevesenet

I Europa er CE-merking et signal om at medisinsk utstyr er i samsvar med MDR og oppfyller strenge krav til sikkerhet og ytelse. For AI-skribenter betyr dette noe på flere nivåer:

• Programvaren er underlagt markedsovervåking etter lansering, slik at problemer oppdages og løses raskt.

• Menneskelige faktorer og brukervennlighet evalueres, noe som reduserer risikoen for feil på behandlingsstedet.

• Åpenhet og rapporteringsplikt sikrer ansvarlighet fra leverandøren.

For klinikere er CE-merking en snarvei til tillit. Det forteller dem at AI-verktøyet de bruker er designet, testet og overvåket etter samme standard som annet utstyr på klinikken. AI-medisinske skribenter kan utvikles svært forskjellig, med varierende grad av kvalitetskontroller og sikkerhetsmekanismer på plass.

En CE-merking er en ekstern bekreftelse på at produktet er utviklet for å møte kravene til sikkerhet og ytelse.

Hvorfor MDR-samsvar betyr noe for helsevesenet

Å inkludere AI-skribenter under MDR gagner alle i helsevesenet:

• For klinikere: trygghet for at notatene deres støttes av teknologi utviklet etter kliniske sikkerhetsstandarder.

• For pasienter: visshet om at journalene deres dokumenteres med tilsyn, ikke overlates til uregulert programvare.

• For helsesystemer: økt tillit ved anskaffelser, smidigere innføring og et rammeverk for langsiktig ansvarlighet.

MDR handler ikke bare om retningslinjer, men om å sikre at AI i helsevesenet er trygg, pålitelig og virkelig støttende for klinisk behandling.

Fremover: fremtiden for regulert AI i helsevesenet

AI vil spille en stadig større rolle i medisinen, men regulering vil avgjøre hvor trygt den kan tas i bruk. EU MDR gir et tydelig rammeverk for å skille forbrukerrettede produktivitetsverktøy fra medisinsk teknologi.

For AI-skribenter er retningen klar. Dersom de utgjør en del av pasientjournalen, må de oppfylle standardene for medisinsk utstyr. Slik beholder klinikere kontrollen, og pasientsikkerheten blir aldri kompromittert.

FAQ

Raske svar om regulering av AI-skribenter:

Regnes AI-skribenter som medisinsk utstyr i Europa?

Ikke automatisk. Under EUs forordning om medisinsk utstyr (MDR 2017/745) kvalifiserer programvare som medisinsk utstyr basert på det tiltenkte formålet. Hvis en AI-skribent genererer eller påvirker kliniske journaler, regnes det som programvare som medisinsk utstyr og klassifiseres under regel 11 i vedlegg VIII.

Hva med i Storbritannia?

Storbritannias posisjon er tydelig. MHRA bruker samme vurdering av tiltenkt bruk som EU når de kvalifiserer og klassifiserer medisinsk utstyr. NHS England har også publisert veiledning for innføring av AI-baserte skribentverktøy. Dette viser at de behandles som programvare som medisinsk utstyr (SaMD) i kliniske omgivelser, og at de må registreres hos Medicines and Healthcare products Regulatory Agency (MHRA).

Hva betyr CE-merking for AI-skribenter?

CE-merking viser at produktet er i samsvar med MDR og oppfyller gjeldende EU-krav til sikkerhet og ytelse. Det innebærer også plikt til markedsovervåking etter lansering.

Hvorfor bør AI-skribenter reguleres under MDR?

Fordi de påvirker pasientjournaler og dermed behandlingen. MDR-tilsyn sikrer sikkerhet, ytelse og ansvarlighet for medisinsk utstyr i klinisk bruk.

Hvordan gagner MDR klinikere som bruker AI-skribenter?

Det gir klinikere trygghet for at verktøyene er designet, vurdert og overvåket etter medisinske standarder, med klart tiltenkt bruk, risikoklassifisering og krav til markedsovervåking etter lansering (MDCG 2019-11-veiledning).

Hva med den nye EUs AI-lov?

Hvis en AI-skribent er medisinsk utstyr under MDR og faller inn i klasse IIa eller høyere, anses den som høyrisiko under AI-loven og må gjennom tredjeparts samsvarsvurdering. Klasse I-programvare, som en AI-skribent som Tandem, regnes ikke som høyrisiko under AI-loven. Likevel kan den måtte følge åpenhetsregler når den samhandler med brukere eller genererer syntetisk innhold (se veiledning om samspillet mellom MDR og AI-loven).