Introduktion: Skiftet i sundhedsvæsenets AI

Debatten om AI i sundhedsvæsenet er rykket fra konferencescener til reguleringspolitik. Europæiske sundhedsmyndigheder trækker en tydeligere grænse: Når AI påvirker klinisk dokumentation, er det ikke længere blot produktivitetssoftware. Det er medicinsk udstyr.

For AI-skribenter er denne skelnen afgørende. Hvis de former patientjournaler, kan de påvirke patientbehandlingen. Og i Europa betyder det, at de sandsynligvis falder ind under Medical Device Regulation (MDR), EU's forordning om medicinsk udstyr.

Hvorfor MDR skal omfatte AI-skribenter

Store sprogmodeller har gjort det muligt for talegenkendelse i sundhedsvæsenet at tage et nyt skridt. Disse værktøjer gengiver ikke blot tale ordret, men genererer strukturerede udkast til dokumentation. Når sådanne udkast bliver en del af patientens sundhedsjournal, understøtter skribenten klinisk dokumentation og falder dermed ind under definitionen af medicinsk udstyr.

Under MDR bringer dette værktøjet ind under anvendelsesområdet som klasse I under regel 11, forudsat at dets tilsigtede formål er begrænset til administrativ støtte uden at give information til at træffe diagnostiske eller terapeutiske beslutninger. Tilsynsmyndigheder anerkender både de potentielle fordele og tilknyttede risici. Risikostyring og tilsyn er derfor påkrævet.

Uden MDR-klassificering behøver virksomheder ikke at følge de regler, der sikrer, at medicinsk udstyr er sikkert, testet og løbende overvåget. I sundhedsvæsenet, hvor selv små fejl kan påvirke patientbehandlingen, er det ikke længere acceptabelt at lade dette område være ureguleret.

Tilsynsmyndigheder er begyndt at kræve CE-mærkning

I løbet af det seneste år er europæiske sundhedstilsynsmyndigheder nået frem til, at CE-mærkning er påkrævet for AI-medicinske skribenter. For eksempel har NHS England i Storbritannien offentliggjort vejledning om implementering af AI-baserede skriveværktøjer. Vejledningen fastslår, at de skal behandles som Software as a Medical Device (SaMD), altså software som medicinsk udstyr, i kliniske omgivelser, og at de skal registreres hos Medicines and Healthcare products Regulatory Agency (MHRA), den britiske lægemiddel- og medicinudstyrsstyrelse.

Vi ser også i stigende grad på tværs af Europa, at både offentlige og private sundhedsudbydere er begyndt at kræve CE-mærkning for AI-medicinske skribentprodukter.

CE-mærkningens rolle i AI-sundhedsvæsenet

I Europa er CE-mærkning beviset på, at et medicinsk udstyr overholder MDR og opfylder strenge krav til sikkerhed og ydeevne. For AI-skribenter betyder det noget på flere niveauer:

• Softwaren er underlagt markedsovervågning efter ibrugtagning, så problemer opdages og håndteres hurtigt.

• Menneskelige faktorer og brugervenlighed vurderes, hvilket mindsker risikoen for fejl i klinikken.

• Krav om gennemsigtighed og rapportering sikrer ansvarlighed fra leverandøren.

For klinikere er CE-mærkning et udtryk for tillid. Det fortæller dem, at det AI-værktøj, de bruger, er designet, testet og overvåget efter samme standarder som andet udstyr i klinikken.

AI-medicinske skribenter kan udvikles meget forskelligt med varierende grad af kvalitetskontrol og sikkerhedsmekanismer. En CE-mærkning er en ekstern validering af, at produktet er udviklet til at opfylde kravene til sikkerhed og ydeevne.

Hvorfor MDR-overholdelse betyder noget for sundhedsvæsenet

At bringe AI-skribenter ind under MDR gavner alle i sundhedssystemet:

• For klinikere: Tryghed ved, at deres notater understøttes af teknologi, der lever op til kliniske sikkerhedsstandarder.

• For patienter: Sikkerhed for, at deres journaler dokumenteres under tilsyn og ikke overlades til ureguleret software.

• For sundhedssystemer: Større tillid ved indkøb, mere smidig implementering og en ramme for langsigtet ansvarlighed.

MDR handler ikke kun om regler, men om at sikre, at AI i sundhedsvæsenet er sikker, pålidelig og reelt understøtter klinisk behandling.

Fremadrettet: Fremtiden for reguleret AI i sundhedsvæsenet

AI vil spille en stadig større rolle i medicinen, men regulering vil afgøre, hvor sikkert den kan skaleres. EU MDR giver en klar ramme for at adskille almindelige produktivitetsværktøjer fra teknologi af medicinsk kvalitet.

For AI-skribenter er retningen klar. Hvis de indgår i patientjournalen, skal de opfylde standarderne for medicinsk udstyr. På den måde forbliver klinikere i kontrol, og patientsikkerheden kompromitteres aldrig.

FAQ

Hurtige svar om regulering af AI-skribenter:

Betragtes AI-skribenter som medicinsk udstyr i Europa?

Ikke automatisk. Under EU Medical Device Regulation (MDR 2017/745) kvalificeres software som medicinsk udstyr ud fra dets tilsigtede formål. Hvis en AI-skribent genererer eller former kliniske journaler, er det medicinsk udstyrs-software og klassificeres under regel 11 i bilag VIII.

Hvad med i Storbritannien?

Storbritanniens holdning er klar. MHRA anvender samme test af tilsigtet formål som EU, når de kvalificerer og klassificerer medicinsk udstyr. NHS England har også offentliggjort vejledning om implementering af AI-baserede skriveværktøjer. Vejledningen fastslår, at de skal behandles som Software as a Medical Device (SaMD) i kliniske omgivelser og registreres hos Medicines and Healthcare products Regulatory Agency (MHRA).

Hvad betyder CE-mærkning for AI-skribenter?

CE-mærkning viser, at produktet overholder MDR og opfylder gældende EU-krav til sikkerhed og ydeevne. Det medfører også krav om markedsovervågning efter ibrugtagning.

Hvorfor skal AI-skribenter reguleres under MDR?

Fordi de påvirker patientjournaler og dermed behandlingen. MDR-tilsyn sikrer sikkerhed, ydeevne og ansvarlighed for medicinsk udstyr i klinisk brug.

Hvordan gavner MDR klinikere, der bruger AI-skribenter?

Det giver klinikere tryghed i, at værktøjer er designet, vurderet og overvåget efter standarder for medicinsk kvalitet, med klart defineret brug, risikoklassificering og krav om markedsovervågning efter ibrugtagning (MDCG 2019-11 vejledning).

Hvad med den nye EU AI Act?

Hvis en AI-skribent er medicinsk udstyr under MDR og falder i klasse IIa eller højere, betragtes den som højrisiko under AI Act, EU's forordning om kunstig intelligens, og skal gennemgå tredjeparts overensstemmelsesvurdering. Klasse I-software, som en AI-skribent såsom Tandem, behandles ikke som højrisiko under AI Act. Alligevel kan den være omfattet af gennemsigtighedsregler, når den interagerer med brugere eller genererer syntetisk indhold (se vejledning om samspillet mellem MDR og AI Act).