Inleiding: de verschuiving in AI voor de gezondheidszorg

Dit jaar zijn de discussies over kunstmatige intelligentie in de gezondheidszorg verschoven van conferentiezalen naar het regelgevingsbeleid. Europese gezondheidsautoriteiten trekken een scherpere lijn: zodra kunstmatige intelligentie invloed heeft op klinische verslaglegging, is het niet langer alleen productiviteitssoftware, maar een medisch hulpmiddel.

Voor AI-scribes is dit onderscheid essentieel. Als zij patiëntendossiers vormgeven, kunnen ze de zorgverlening beïnvloeden. In Europa betekent dit dat ze waarschijnlijk onder de Medical Device Regulation (MDR, regelgeving voor medische hulpmiddelen) vallen.

Waarom de MDR AI-scribes moet omvatten

Grote taalmodellen hebben spraakherkenning in de gezondheidszorg naar het volgende niveau gebracht: AI-scribes. Deze tools leggen niet alleen spraak woordelijk vast, maar genereren ook gestructureerde conceptdocumentatie. Wanneer zulke concepten onderdeel worden van het patiëntendossier, ondersteunt de scribe de klinische verslaglegging en valt daarmee onder de definitie van een medisch hulpmiddel.

Volgens de MDR valt de tool hiermee binnen de reikwijdte als Klasse I onder Regel 11, mits het beoogde gebruik beperkt blijft tot administratieve ondersteuning zonder informatie te verstrekken voor diagnostische of therapeutische beslissingen. Toezichthouders erkennen zowel de potentiële voordelen als de bijbehorende risico's. Daarom zijn risicobeheer en toezicht vereist.

Zonder MDR-classificatie hoeven bedrijven de regels niet te volgen die ervoor zorgen dat medische hulpmiddelen veilig zijn, getest worden en continu worden gemonitord. In de gezondheidszorg, waar zelfs kleine fouten de patiëntenzorg kunnen beïnvloeden, is het niet langer acceptabel om die leemte ongereguleerd te laten.

Toezichthouders zijn begonnen CE-markering te eisen

Het afgelopen jaar is duidelijk geworden dat Europese gezondheidstoezichthouders en -autoriteiten tot de conclusie zijn gekomen dat CE-markering vereist is voor AI-medische assistenten. In het Verenigd Koninkrijk heeft NHS England bijvoorbeeld richtlijnen gepubliceerd voor de adoptie van AI-ondersteunde scribe-tools. Dit geeft aan dat ze worden behandeld als Software as a Medical Device (SaMD, software als medisch hulpmiddel) in klinische omgevingen en dat ze moeten worden geregistreerd bij de Medicines and Healthcare products Regulatory Agency (MHRA, regelgevingsinstantie voor geneesmiddelen en medische producten).

We zien ook steeds vaker dat zowel publieke als private zorgaanbieders in heel Europa CE-markering eisen voor AI-medische-assistentproducten.

De rol van CE-markering in kunstmatige intelligentie voor de gezondheidszorg

In Europa is CE-markering het bewijs dat een medisch hulpmiddel voldoet aan de MDR en aan strikte eisen voor veiligheid en prestaties. Voor AI-scribes is dit om verschillende redenen belangrijk:

• De software wordt na het op de markt brengen onderworpen aan markttoezicht, zodat problemen snel worden opgespoord en opgelost.

• Menselijke factoren en gebruiksvriendelijkheid worden geëvalueerd, waardoor de kans op fouten bij de zorgverlening wordt verkleind.

• Transparantie- en rapportageverplichtingen zorgen voor verantwoordingsplicht van de leverancier.

Voor zorgverleners staat CE-markering gelijk aan vertrouwen. Het laat zien dat de AI-tool die zij gebruiken is ontworpen, getest en gemonitord volgens dezelfde standaarden als andere apparaten in de kliniek.

AI-medische assistenten kunnen op heel verschillende manieren worden ontwikkeld, met uiteenlopende mate van kwaliteitscontroles en veiligheidsmechanismen. Een CE-markering is een externe validatie dat het product is ontwikkeld om aan de veiligheids- en prestatievereisten te voldoen.

Waarom MDR-naleving belangrijk is voor de gezondheidszorg

Het onder de MDR brengen van AI-scribes is in het belang van iedereen binnen het zorgsysteem:

• Voor zorgverleners: de zekerheid dat hun verslaglegging wordt ondersteund door technologie die is ontwikkeld volgens klinische veiligheidsnormen.

• Voor patiënten: de geruststelling dat hun dossiers worden vastgelegd onder toezicht, en niet overgelaten aan ongereguleerde software.

• Voor zorgsystemen: meer vertrouwen bij aanbestedingen, soepelere adoptie en een kader voor verantwoordingsplicht op de lange termijn.

De MDR draait niet om beleid. Het gaat erom dat kunstmatige intelligentie in de gezondheidszorg veilig, betrouwbaar en daadwerkelijk ondersteunend is voor de klinische zorg.

Vooruitkijken: de toekomst van gereguleerde kunstmatige intelligentie in de gezondheidszorg

Kunstmatige intelligentie zal een steeds grotere rol spelen in de geneeskunde, maar regelgeving zal bepalen hoe veilig die groei verloopt. De EU MDR biedt een duidelijk kader om consumentenproductiviteitstools te onderscheiden van medische technologie.

Voor AI-scribes is de richting helder. Als ze onderdeel zijn van het patiëntendossier, moeten ze voldoen aan de normen van een medisch hulpmiddel. Zo behouden zorgverleners de regie en komt de patiëntveiligheid nooit in het geding.

FAQ

Snelle antwoorden over regelgeving voor AI-scribes:

Worden AI-scribes beschouwd als medische hulpmiddelen in Europa?

Niet automatisch. Volgens de EU Medical Device Regulation (MDR 2017/745) kwalificeert software als medisch hulpmiddel op basis van het beoogde gebruik. Als een AI-scribe klinische dossiers genereert of vormgeeft, is het medische-hulpmiddelsoftware en geclassificeerd onder Regel 11 van Bijlage VIII.

Hoe zit het in het Verenigd Koninkrijk?

Het standpunt van het VK is duidelijk. De MHRA hanteert dezelfde toets op beoogd gebruik als de EU bij het kwalificeren en classificeren van medische hulpmiddelen. NHS England heeft ook richtlijnen gepubliceerd voor de adoptie van AI-ondersteunde scribe-tools. Dit geeft aan dat ze worden behandeld als Software as a Medical Device (SaMD) in klinische omgevingen en dat ze moeten worden geregistreerd bij de Medicines and Healthcare products Regulatory Agency (MHRA).

Wat betekent CE-markering voor AI-scribes?

CE-markering geeft aan dat het product voldoet aan de MDR en aan de toepasselijke EU-veiligheids- en prestatievereisten. Het brengt ook verplichtingen met zich mee voor markttoezicht na het op de markt brengen.

Waarom zouden AI-scribes onder de MDR moeten worden gereguleerd?

Omdat ze patiëntendossiers beïnvloeden en daarmee ook de zorg. MDR-toezicht waarborgt de veiligheid, prestaties en verantwoordingsplicht van medische hulpmiddelen in klinisch gebruik.

Hoe komt de MDR zorgverleners die AI-scribes gebruiken ten goede?

Het geeft zorgverleners het vertrouwen dat tools zijn ontworpen, beoordeeld en gemonitord volgens medische standaarden, met een duidelijk beoogd gebruik, risicoclassificatie en eisen voor markttoezicht na het op de markt brengen (MDCG 2019-11 richtlijn).

Hoe zit het met de nieuwe EU AI Act?

Als een AI-scribe een medisch hulpmiddel is onder de MDR en in Klasse IIa of hoger valt, wordt het beschouwd als hoog risico onder de AI Act en moet het een conformiteitsbeoordeling door derden ondergaan. Klasse I-software, zoals een AI-scribe als Tandem, wordt niet als hoog risico gezien onder de AI Act. Toch moet deze mogelijk transparantieregels volgen bij interactie met gebruikers of het genereren van synthetische inhoud (zie de richtlijn over de wisselwerking tussen de MDR en AI Act).