Ambient voice-technologie (tools die microfoons en spraakherkenning gebruiken om klinische consulten in realtime vast te leggen en te documenteren) is snel geëvolueerd van nieuwigheid naar bijna alomtegenwoordigheid in klinische omgevingen, maar de regelgevingskaders die deze technologie reguleren, hebben moeite om het tempo bij te houden. Naarmate AI-documentatietools geavanceerder worden en klinische verslagen genereren die rechtstreeks in patiëntendossiers terechtkomen en vervolgbeslissingen in de zorg beïnvloeden, is een cruciale vraag naar voren gekomen: wanneer wordt een AI-assistent een medisch hulpmiddel, en wat betekent die classificatie voor de zorgverleners die het gebruiken?

Wat MDR Klasse IIa betekent voor AI-documentatietools

De EU Medical Device Regulation (MDR 2017/745) classificeert hulpmiddelen in vier risicocategorieën: Klasse I, Klasse IIa, Klasse IIb en Klasse III. De classificatie is gebaseerd op het beoogde gebruik en het potentiële patiëntrisico, niet op de onderliggende technologie. Klasse IIa duidt op hulpmiddelen met een middelgroot risico: hulpmiddelen waarbij het potentieel voor schade bestaat, maar dat als beheersbaar wordt beschouwd met passende controles.

Voor software wordt de classificatie voornamelijk bepaald door MDR Regel 11, die van toepassing is op software die bedoeld is om informatie te verstrekken die wordt gebruikt bij het nemen van beslissingen met diagnostische of therapeutische doeleinden. De classificatie wordt niet bepaald door het gebruik van AI, spraakherkenning of grote taalmodellen, maar door wat het product doet in een klinische context en welke gevolgen voortvloeien uit de output.

Een product dat simpelweg spraak transcribeert en tekst opslaat, valt mogelijk buiten de definitie van medisch hulpmiddel. Een product dat gestructureerde klinische verslagen genereert, diagnostische codes voorstelt of samenvattingen produceert die rechtstreeks zorgbeslissingen ondersteunen, bevindt zich op ander regelgevend terrein.

Waarom AI-assistenten worden geclassificeerd als medische hulpmiddelen

De regelgevingslogica volgt uit de definitie van een medisch hulpmiddel in de Medical Device Regulation, die software omvat die bedoeld is voor diagnose, preventie, monitoring, behandeling of verlichting van ziekte. Wanneer een AI-assistent een consultverslag genereert dat een zorgverlener gebruikt om klinische beslissingen te nemen of te communiceren, voldoet die output waarschijnlijk aan deze definitie.

Onafhankelijke analyse van Hardian Health concludeert dat klinische samenvattingen en rapporten geproduceerd door op grote taalmodellen (LLM) gebaseerde tools een duidelijk medisch doel dienen onder het kader van beoogd gebruik van de MDR. Deze analyse trekt een parallel met de Clinical Decision Support-richtlijnen van de Amerikaanse Food and Drug Administration (FDA), die vergelijkbare logica toepassen op software die klinisch oordeel beïnvloedt.

Het onderscheid dat in de praktijk ertoe doet, is tussen tools die puur administratief zijn (tekst opmaken, afspraken beheren, herinneringen versturen) en tools met een klinische functie. Zoals de regelgevingsanalyse van Tandem Health opmerkt, is de MDCG 2019-11-richtlijn (Medical Device Coordination Group) over beoogd gebruik hier centraal. Als het door de fabrikant vermelde of redelijkerwijs te verwachten doel klinische beslissingsondersteuning omvat, is de definitie van hulpmiddel waarschijnlijk van toepassing.

Er is een extra regelgevingslaag. Onder de EU AI Act, die vanaf augustus 2026 verplichtingen voor hoogrisico-AI introduceert, worden Klasse IIa medische hulpmiddelen die beoordeling door een Notified Body vereisen automatisch geclassificeerd als hoogrisico-AI-systemen. Dit activeert aanvullende vereisten rond data governance, transparantie, menselijk toezicht en postmarktbewaking, bovenop bestaande MDR-verplichtingen.

Wat het MDR Klasse IIa-certificeringsproces van leveranciers vereist

Het behalen van Klasse IIa-certificering is geen zelfverklaring. In tegenstelling tot Klasse I-hulpmiddelen, die fabrikanten zelf kunnen certificeren, vereisen Klasse IIa-hulpmiddelen de betrokkenheid van een Notified Body, een onafhankelijke derde partij die is geaccrediteerd door een nationale autoriteit om conformiteit met MDR-vereisten te beoordelen.

De verplichtingen waaraan een leverancier moet voldoen, omvatten:

• Klinische evaluatie: Een systematische beoordeling van klinische gegevens die aantoont dat het hulpmiddel presteert zoals bedoeld en dat restrisico's acceptabel zijn in verhouding tot de klinische voordelen

• Kwaliteitsmanagementsysteem (QMS): Implementatie en onderhoud van een QMS dat voldoet aan ISO 13485, met betrekking tot ontwerp, ontwikkeling, productie en postmarktactiviteiten

• Postmarktbewaking (PMS): Een proactief systeem voor het verzamelen en analyseren van real-world prestatiegegevens, inclusief een Post-Market Clinical Follow-Up (PMCF)-plan

• Technische documentatie: Uitgebreide documentatie met betrekking tot hulpmiddelontwerp, beoogd doel, risicobeheer en klinisch bewijs

• Incidentrapportage: Verplichte rapportage van ernstige incidenten en veldveiligheidscorrecties aan de relevante bevoegde autoriteit

Voor AI-specifieke tools moet postmarktbewaking ook modelverschuiving aanpakken: de geleidelijke verslechtering van modelprestaties naarmate klinische taal, workflows of patiëntenpopulaties evolueren. Dit is geen standaardvereiste voor conventionele software en weerspiegelt de extra complexiteit die toezichthouders hebben erkend in AI-ondersteunde hulpmiddelen.

Wat certificering aan zorgverleners signaleert over veiligheid en verantwoordelijkheid

Een CE-markering onder MDR is geen eenmalige badge die bij productlancering wordt toegekend. Het vertegenwoordigt een doorlopende nalevingsverplichting die vereist dat de leverancier voortdurend de prestaties van het hulpmiddel bewaakt, reageert op veiligheidssignalen en incidenten rapporteert aan toezichthouders. Als er bewijs naar voren komt dat het hulpmiddel onder de standaard presteert die is vastgesteld in de klinische evaluatie, moet de leverancier actie ondernemen. Toezichthouders hebben handhavingsbevoegdheden als dat niet gebeurt.

Voor zorgverleners heeft dit concrete implicaties. Een Klasse IIa-gecertificeerde AI-assistent heeft per definitie:

• Een beoordeling ondergaan door een onafhankelijke Notified Body op basis van MDR-vereisten

• Een formele klinische evaluatie ondergaan met gedocumenteerd bewijs van veiligheid en prestaties

• Een postmarktbewakingssysteem opgezet dat in staat is problemen in de praktijk te detecteren

• Zich gecommitteerd aan incidentrapportageverplichtingen die een regelgevend auditspoor creëren

Zoals de analyse van CE-markering door Tandem Health uitlegt, moet elk verslag en elke functie worden ontworpen, getest en bewaakt volgens medische standaarden. Dit is een wezenlijk andere standaard dan productiviteitssoftware, die geen vergelijkbare verplichting kent.

De klinische bewijsbasis voor AI-assistenten blijft zich ontwikkelen. Een narratieve review in Cardiovascular Diagnosis and Therapy vond dat AI-scribes consequent de documentatielast en cognitieve belasting verminderen, maar rapporteerde ook frequente documentatieomissies en incidentele klinisch significante hallucinaties (gevallen waarin AI plausibele maar feitelijk onjuiste inhoud genereert). Een prospectieve pilotstudie in JMIR Medical Informatics vond dat 94,7 procent van de door AI gegenereerde verslagen vrij was van significante fouten, maar dat een klein deel fouten bevatte die risico op ernstige schade met zich meebrachten indien niet gecorrigeerd. Dit onderstreept het blijvende belang van beoordeling door zorgverleners.

Regelgevingscertificering elimineert deze risico's niet. Het creëert een gestructureerd kader voor het identificeren en beheersen ervan.

Het klinische risicolandschap wanneer AI-assistenten niet MDR-gecertificeerd zijn

Het regelgevende grijze gebied rond AI-assistenten heeft praktische gevolgen voor zorgverleners en zorgorganisaties. Tools die waarschijnlijk voldoen aan de definitie van medisch hulpmiddel maar niet als zodanig zijn gecertificeerd, opereren zonder de vereisten voor klinisch bewijs, postmarktbewakingsverplichtingen of Notified Body-toezicht die certificering met zich meebrengt.

Voor zorgverleners creëert dit verschillende risico's:

• Aansprakelijkheid: Als een niet-gecertificeerde tool een klinisch significante fout genereert en een patiënt schade lijdt, zullen vragen over regelgevende naleving en of de tool als medisch hulpmiddel had moeten worden geclassificeerd waarschijnlijk opkomen in elk volgend onderzoek

• Afwezigheid van klinisch bewijs: Zonder een verplichte klinische evaluatie is er geen onafhankelijk geverifieerde bewijsbasis voor de prestatieclaims van de tool

• Geen postmarktveiligheidsverplichtingen: Leveranciers van niet-gecertificeerde tools zijn niet verplicht om prestaties in de praktijk systematisch te bewaken of incidenten aan toezichthouders te rapporteren

Regelgevende classificatie van AI-documentatietools blijft een evoluerend gebied. Niet alle jurisdicties hebben uitgewerkt hoe MDR van toepassing is op elke categorie AI-assistent, en sommige tools opereren in echte grijze gebieden waar classificatie wordt betwist. Het EU-overzicht van regelgeving voor AI in de gezondheidszorg merkt op dat de wisselwerking tussen MDR, de EU AI Act en richtlijnen van nationale bevoegde autoriteiten zich blijft ontwikkelen. Dit betekent dat het regelgevende beeld voor specifieke producten niet altijd glashelder is.

Hoe MDR Klasse IIa-certificering inkoop en due diligence beïnvloedt

Voor inkoopteams en klinische leiders die AI-assistenten evalueren, is MDR-certificeringsstatus een concreet en verifieerbaar gegeven. Dit in tegenstelling tot veel leveranciersclaims over nauwkeurigheid of veiligheid, die moeilijk onafhankelijk te beoordelen zijn.

Belangrijke due diligence-vragen zijn onder meer:

• Heeft het product een CE-markering onder MDR? Dit kan worden geverifieerd via de EUDAMED-database (het EU-register voor medische hulpmiddelen), hoewel registratievereisten gefaseerd worden ingevoerd en de openbare zoekfunctionaliteit mogelijk nog niet alle hulpmiddelcategorieën dekt. Vraag registratiegegevens rechtstreeks bij de leverancier op om te bevestigen dat hun hulpmiddel is geregistreerd

• Wat is de classificatie en onder welke regel? Een Klasse I-zelfverklaring draagt aanzienlijk minder regelgevend gewicht dan een Klasse IIa-certificering met betrokkenheid van een Notified Body

• Wie is de Notified Body? De identiteit van de beoordelende instantie en haar accreditatiestatus zijn relevant voor de grondigheid van de beoordeling

• Is er een gepubliceerd of toegankelijk klinisch evaluatierapport? Leveranciers zouden bewijs moeten kunnen leveren van de klinische evaluatie die hun certificering ondersteunt, zelfs als het volledige rapport commercieel vertrouwelijk is

• Wat dekt het postmarktbewakingsplan? Specifiek: hoe bewaakt de leverancier modelverschuiving en klinische fouten in de praktijk?

Zoals de MDR-certificeringsaankondiging van Tandem opmerkt, stelt Tandem Health dat certificering de governance-wrijving kan verminderen die AI-adoptie van pilot naar operationele implementatie vaak vertraagt. Hoewel MDR-certificering regelgevende conformiteit waarborgt, lost het echter niet automatisch alle inkoop-, informatiebeheer- of lokale klinische governance-vereisten op die inkoopteams moeten beantwoorden.

Klasse IIa wordt een bredere norm voor gereguleerde AI in klinische omgevingen, niet alleen voor standalone AI-assistenten. In mei 2026 werd InterSystems IntelliCare het eerste AI-native medisch dossiersysteem dat MDR Klasse IIa-certificering behaalde. Dit geeft aan dat deze standaard zich uitbreidt naar een breder scala aan klinische AI-producten.

Gegevensbeveiliging, AVG en MDR: het begrijpen van de overlap

MDR-certificering en naleving van de Algemene Verordening Gegevensbescherming (AVG) zijn afzonderlijke wettelijke verplichtingen die verschillende aspecten van de werking van een klinische AI-tool adresseren. Geen van beide vervangt de ander.

MDR regelt veiligheid en prestaties als medisch hulpmiddel. De AVG regelt hoe persoonsgegevens, inclusief gezondheidsgegevens die een speciale categoriestatus hebben, worden verzameld, verwerkt, opgeslagen en beschermd. Een product kan MDR-gecertificeerd zijn en toch niet voldoen aan AVG-vereisten, of andersom.

Voor AI-assistenten omvatten de relevante data governance-vragen:

• Gegevensopslag (EU): Waar worden patiëntgegevens verwerkt en opgeslagen? EU-gegevensopslag is een veelvoorkomende vereiste voor NHS- en Europese gezondheidszorginkoop om ervoor te zorgen dat gegevens jurisdicties met gelijkwaardige beschermingsnormen niet verlaten

• Toegangscontroles: Wie binnen de leveranciersorganisatie heeft toegang tot patiëntgegevens, onder welke voorwaarden en met welk auditspoor?

• Beveiligingscertificering: Heeft de leverancier ISO 27001-certificering, de internationale standaard voor informatiebeveiligingsbeheer?

• Gegevensverwerkingsovereenkomsten: Is de leverancier bereid een Gegevensverwerkingsovereenkomst (DPA) aan te gaan die voldoet aan de eisen van AVG Artikel 28?

Het EU-overzicht van regelgeving voor AI in de gezondheidszorg wijst ook op de Europese Gezondheidsgegevensruimte (EHDS) Verordening, die in maart 2025 in werking trad en aanvullende vereisten introduceert rond toegang tot gezondheidsgegevens en secundair gebruik. Dit is een extra nalevingslaag die leveranciers die in de EU opereren moeten adresseren.

Zorgverleners zouden van leveranciers moeten verwachten dat zij aantonen te voldoen aan MDR, AVG en relevante beveiligingsnormen, in plaats van één enkele certificering als voldoende te beschouwen.

Wat zorgverleners in de praktijk van een gecertificeerde AI-assistent mogen verwachten

Regelgevingscertificering bepaalt hoe een tool zich in de klinische praktijk zou moeten gedragen, niet alleen hoe deze is gebouwd. Voor zorgverleners zou een Klasse IIa-gecertificeerde AI-assistent in de praktijk het volgende moeten bieden:

• Transparantie over beperkingen: De klinische evaluatie die certificering ondersteunt, zou de omstandigheden moeten hebben geïdentificeerd waaronder de tool goed presteert en wanneer de prestaties afnemen. Deze informatie moet toegankelijk zijn voor gebruikers

• Klinische beoordeling ondersteunen, niet vervangen: Bewijs toont consequent aan dat door AI gegenereerde verslagen beoordeling door zorgverleners vereisen. Een longitudinale studie in NPJ Digital Medicine vond dat AI-assistenten de documentatietijd per consult verminderden, hoewel onnauwkeurige samenvattingen een aandachtspunt bleven. Het postmarktbewakingssysteem van de leverancier zou moeten zijn ontworpen om deze te detecteren en aan te pakken

• Een incidentrapportagemechanisme bieden: Zorgverleners die fouten of veiligheidszorgen signaleren, moeten een duidelijke route hebben om deze bij de leverancier te melden, die onder MDR verplicht is om te onderzoeken en te reageren

• Prestaties in de tijd waarborgen: De postmarktbewakingsverplichtingen van de leverancier betekenen dat zij niet simpelweg een product kunnen lanceren en achteroverleunen. Voortdurende monitoring van modelverschuiving en prestatiedegradatie in de praktijk is een regelgevende vereiste

Een gerandomiseerde crossover-trial gepubliceerd in het Journal of the American Medical Informatics Association (JAMIA), waarin twee AI-assistenten werden vergeleken, vond dat beide de burn-out verminderden en de workflowtevredenheid verbeterden, maar dat prestatieverschillen tussen producten betekenisvol waren. Certificering stelt een ondergrens, geen bovengrens, voor klinische prestaties.

Belangrijke vragen om te stellen voordat u een AI-assistent adopteert

De volgende vragen zijn bedoeld om zorgverleners en klinische leiders te ondersteunen bij het evalueren van AI-assistenten vóór organisatorische adoptie:

Regelgevingsstatus

• Is het product CE-gemarkeerd onder EU MDR 2017/745?

• Wat is de hulpmiddelclassificatie en onder welke MDR-regel is deze bepaald?

• Welke Notified Body heeft de conformiteitsbeoordeling uitgevoerd en wat is haar accreditatiestatus?

• Is het product geregistreerd in EUDAMED?

Klinisch bewijs

• Heeft de tool een formele klinische evaluatie ondergaan? Kan de leverancier een samenvatting van de bevindingen verstrekken?

• Welke fouttypes zijn geïdentificeerd en met welke frequentie? (Omissies, hallucinaties, onbedoelde toevoegingen)

• Is de tool gevalideerd in uw specialisme of zorgsetting, of alleen in de context waarin deze oorspronkelijk is ontwikkeld?

Postmarktverplichtingen

• Welke postmarktbewakingsmechanismen zijn aanwezig?

• Hoe bewaakt de leverancier modelverschuiving?

• Wat is het proces voor zorgverleners om fouten of veiligheidszorgen te rapporteren?

• Hoe worden ernstige incidenten aan toezichthouders gerapporteerd?

Data governance

• Waar worden patiëntgegevens verwerkt en opgeslagen?

• Heeft de leverancier ISO 27001-certificering?

• Is de leverancier bereid een AVG-conforme Gegevensverwerkingsovereenkomst te ondertekenen?

• Hoe worden gegevens gebruikt? Worden ze gebruikt om modellen te trainen of te verbeteren, en zo ja, onder welke voorwaarden?

Doorlopende verplichtingen

• Wat is het proces van de leverancier voor het updaten van de tool na wijzigingen in klinische richtlijnen of coderingsnormen?

• Hoe worden zorgverleners geïnformeerd over materiële wijzigingen aan het product die de prestaties of het beoogde gebruik kunnen beïnvloeden?

• Welke contractuele verplichtingen accepteert de leverancier met betrekking tot prestaties en incidentrespons?

Deze vragen bestrijken de gebieden waar regelgevingsstatus, klinisch bewijs en data governance elkaar raken, en waar het verschil tussen gecertificeerde en niet-gecertificeerde tools het meest bepalend is voor de klinische praktijk.

Veelgestelde vragen

▶ Wanneer wordt een AI-assistent een medisch hulpmiddel onder EU MDR?

Een tool die enkel spraak transcribeert en tekst opslaat, valt mogelijk buiten de definitie van medisch hulpmiddel. Maar wanneer een AI-assistent gestructureerde klinische verslagen genereert, diagnostische codes voorstelt of samenvattingen produceert die rechtstreeks zorgbeslissingen ondersteunen, voldoet deze waarschijnlijk aan de definitie van een medisch hulpmiddel volgens de EU Medical Device Regulation. De classificatie wordt bepaald door wat het product doet in een klinische context en welke gevolgen voortvloeien uit de output, niet door het gebruik van AI of spraakherkenning.

▶ Wat vereist MDR Klasse IIa-certificering van leveranciers van AI-assistenten?

Klasse IIa-certificering vereist betrokkenheid van een Notified Body, een onafhankelijke derde partij die is geaccrediteerd om conformiteit met de EU Medical Device Regulation te beoordelen. Leveranciers moeten een formele klinische evaluatie uitvoeren die aantoont dat het hulpmiddel presteert zoals bedoeld, een kwaliteitsmanagementsysteem implementeren dat voldoet aan ISO 13485, een postmarktbewakingssysteem opzetten, uitgebreide technische documentatie bijhouden en ernstige incidenten rapporteren aan de relevante bevoegde autoriteit. Voor AI-tools specifiek moet postmarktbewaking ook modelverschuiving aanpakken: de geleidelijke verslechtering van modelprestaties naarmate klinische taal, workflows of patiëntenpopulaties veranderen.

▶ Wat betekent een CE-markering onder MDR voor zorgverleners die een AI-assistent gebruiken?

Een CE-markering onder MDR is een doorlopende nalevingsverplichting, geen eenmalige badge. Een Klasse IIa-gecertificeerde AI-assistent is beoordeeld door een onafhankelijke Notified Body, heeft een formele klinische evaluatie ondergaan met gedocumenteerd bewijs van veiligheid en prestaties, heeft een postmarktbewakingssysteem opgezet dat in staat is problemen in de praktijk te detecteren, en heeft zich gecommitteerd aan incidentrapportageverplichtingen die een regelgevend auditspoor creëren. Elk verslag en elke functie moet worden ontworpen, getest en bewaakt volgens medische standaarden, wat een wezenlijk andere standaard is dan productiviteitssoftware.

▶ Wat zijn de risico's van het gebruik van een AI-assistent die niet MDR-gecertificeerd is?

Tools die waarschijnlijk voldoen aan de definitie van medisch hulpmiddel maar niet zijn gecertificeerd, opereren zonder de vereisten voor klinisch bewijs, postmarktbewakingsverplichtingen of Notified Body-toezicht die certificering met zich meebrengt. Voor zorgverleners creëert dit verschillende risico's. Als een niet-gecertificeerde tool een klinisch significante fout genereert en een patiënt schade lijdt, zullen vragen over regelgevende naleving waarschijnlijk opkomen in elk volgend onderzoek. Zonder een verplichte klinische evaluatie is er geen onafhankelijk geverifieerde bewijsbasis voor de prestatieclaims van de tool. Leveranciers van niet-gecertificeerde tools zijn ook niet verplicht om prestaties in de praktijk systematisch te bewaken of incidenten aan toezichthouders te rapporteren.

▶ Hoe werkt de EU AI Act samen met MDR Klasse IIa voor AI-assistenten?

Onder de EU AI Act, die vanaf augustus 2026 verplichtingen voor hoogrisico-AI introduceert, worden Klasse IIa medische hulpmiddelen die beoordeling door een Notified Body vereisen automatisch geclassificeerd als hoogrisico-AI-systemen. Dit activeert aanvullende vereisten rond data governance, transparantie, menselijk toezicht en postmarktbewaking, bovenop bestaande verplichtingen uit de Medical Device Regulation. De wisselwerking tussen MDR, de EU AI Act en richtlijnen van nationale bevoegde autoriteiten blijft zich ontwikkelen, dus het regelgevende beeld voor specifieke producten is mogelijk niet altijd glashelder.

▶ Welke due diligence-vragen zouden inkoopteams moeten stellen over certificering van AI-assistenten?

Inkoopteams zouden moeten vragen of het product een CE-markering heeft onder EU MDR 2017/745, verifieerbaar via de EUDAMED-database of rechtstreeks bij de leverancier. Het is verstandig om de hulpmiddelclassificatie te bevestigen en welke MDR-regel deze heeft bepaald, aangezien een Klasse I-zelfverklaring aanzienlijk minder regelgevend gewicht draagt dan een Klasse IIa-certificering met betrokkenheid van een Notified Body. Teams zouden ook moeten vragen welke Notified Body de conformiteitsbeoordeling heeft uitgevoerd, of een klinisch evaluatierapport toegankelijk is, en hoe de leverancier modelverschuiving en klinische fouten in de praktijk bewaakt.

▶ Zijn MDR-certificering en AVG-naleving hetzelfde?

Nee. MDR-certificering en naleving van de Algemene Verordening Gegevensbescherming zijn afzonderlijke wettelijke verplichtingen die verschillende aspecten van de werking van een klinische AI-tool adresseren. Geen van beide vervangt de ander. MDR regelt veiligheid en prestaties als medisch hulpmiddel. De AVG regelt hoe persoonsgegevens, inclusief gezondheidsgegevens die een speciale categoriestatus hebben, worden verzameld, verwerkt, opgeslagen en beschermd. Een product kan MDR-gecertificeerd zijn en toch niet voldoen aan AVG-vereisten, of andersom. Zorgverleners zouden van leveranciers moeten verwachten dat zij aantonen te voldoen aan MDR, AVG en relevante beveiligingsnormen zoals ISO 27001.

▶ Welke data governance-vragen zouden zorgverleners aan leveranciers van AI-assistenten moeten stellen?

Zorgverleners zouden moeten vragen waar patiëntgegevens worden verwerkt en opgeslagen, aangezien EU-gegevensopslag een veelvoorkomende vereiste is voor NHS- en Europese gezondheidszorginkoop. Het is verstandig te bevestigen of de leverancier ISO 27001-certificering heeft, de internationale standaard voor informatiebeveiligingsbeheer, en of zij een AVG-conforme Gegevensverwerkingsovereenkomst willen ondertekenen. Zorgverleners zouden ook moeten vragen hoe gegevens worden gebruikt, specifiek of ze worden gebruikt om modellen te trainen of te verbeteren, en onder welke voorwaarden.

▶ Betekent MDR-certificering dat de verslagen van een AI-assistent geen beoordeling door zorgverleners nodig hebben?

Nee. Regelgevingscertificering elimineert niet de noodzaak voor beoordeling door zorgverleners. Een prospectieve pilotstudie in JMIR Medical Informatics vond dat 94,7 procent van de door AI gegenereerde verslagen vrij was van significante fouten, maar dat een klein deel fouten bevatte die risico op ernstige schade met zich meebrachten indien niet gecorrigeerd. Een narratieve review in Cardiovascular Diagnosis and Therapy vond ook dat AI-scribes frequente documentatieomissies en incidentele klinisch significante hallucinaties rapporteerden, gevallen waarin AI plausibele maar feitelijk onjuiste inhoud genereert. Certificering creëert een gestructureerd kader voor het identificeren en beheersen van deze risico's, niet voor het wegnemen ervan.

▶ Hoe zou een Klasse IIa-gecertificeerde AI-assistent er in de klinische praktijk uit moeten zien?

Een Klasse IIa-gecertificeerde AI-assistent zou transparant moeten zijn over zijn beperkingen, waarbij de klinische evaluatie de omstandigheden identificeert waarin de prestaties afnemen en die informatie toegankelijk maakt voor gebruikers. De tool zou klinische beoordeling van gegenereerde verslagen moeten ondersteunen, niet vervangen. Er moet een duidelijk mechanisme zijn voor zorgverleners om fouten of veiligheidszorgen te melden, aangezien de leverancier onder MDR verplicht is om te onderzoeken en te reageren. De postmarktbewakingsverplichtingen van de leverancier betekenen ook dat voortdurende monitoring van modelverschuiving en prestatiedegradatie in de praktijk een regelgevende vereiste is, geen optie.