De psychiatrische praktijk in Europa staat voor ingrijpende regelgevingsveranderingen. De EU AI-verordening, 's werelds eerste alomvattende juridische kader voor kunstmatige intelligentie (AI), treedt nu geleidelijk in werking en behandelt AI-tools die in de geestelijke gezondheidszorg worden ingezet met bijzondere aandacht. Voor psychiaters die AI-ondersteunde tools in hun klinische werk evalueren of al gebruiken, is begrijpen hoe deze regelgeving die tools classificeert niet langer een abstracte compliancekwestie. Het heeft directe gevolgen voor wat kan worden ingezet, onder welke voorwaarden en met welke verplichtingen jegens patiënten.

Waarom AI-tools voor de geestelijke gezondheidszorg onder verscherpt toezicht vallen

De EU AI-verordening hanteert geen uniforme norm voor alle AI-toepassingen in de gezondheidszorg. Het risicoclassificatiekader is gevoelig voor de klinische context waarin een tool wordt gebruikt, de aard van de beslissingen die deze beïnvloedt en de kenmerken van de populatie waarop deze van invloed is.

De praktijk van de geestelijke gezondheidszorg bevindt zich op het snijvlak van verschillende factoren die consequent de strengste vereisten van de verordening oproepen: de kwetsbaarheid van de patiëntenpopulatie, de ernst van mogelijke schade door foutieve AI-outputs en de mate waarin klinische beslissingen in de psychiatrie afhangen van genuanceerd, op relaties gebaseerd oordeel dat moeilijk te controleren of terug te draaien is.

Een peer-reviewed analyse gepubliceerd in 2024 concludeerde dat er aanzienlijke risico's gepaard gaan met het gebruik van generatieve AI in de geestelijke gezondheidszorg, en dat de EU AI-verordening, hoewel direct van toepassing, mogelijk onvoldoende is om de specifieke juridische en ethische lacunes aan te pakken die zich in psychiatrische contexten voordoen. Die beoordeling onderstreept waarom psychiaters regelgevingscompliance niet alleen als een probleem van de leverancier kunnen zien.

Wat de EU AI-verordening zegt over hoogrisico-AI in de gezondheidszorg

De verordening stelt een gelaagd classificatiesysteem vast. Bovenaan staan verboden AI-praktijken, systemen die ronduit verboden zijn. Daaronder bevindt zich de hoogrisicocategorie, die de meest uitgebreide complianceverplichtingen met zich meebrengt.

Artikel 6 van de verordening definieert twee routes naar hoogrisicoclassificatie: ten eerste, wanneer een AI-systeem een veiligheidscomponent is van een product dat al onder de in bijlage I vermelde EU-harmonisatiewetgeving valt (waaronder de verordening medische hulpmiddelen, of MDR). Ten tweede, wanneer het systeem binnen een van de in bijlage III vermelde categorieën valt.

Bijlage III omvat expliciet AI-systemen die bedoeld zijn voor het diagnosticeren, behandelen, monitoren of voorspellen van gezondheidsproblemen, inclusief psychische stoornissen. AI-tools die zijn ontworpen om te helpen bij psychiatrische diagnoses, achteruitgang te voorspellen, risico's te stratificeren of behandelbeslissingen te ondersteunen, vallen rechtstreeks binnen de hoogrisico-aanwijzing door wetgevend ontwerp, niet door interpretatie.

Het onderscheid tussen een verboden systeem en een hoogrisicosysteem is in de praktijk van belang. Verboden systemen, zoals systemen die psychologische kwetsbaarheden uitbuiten om gedrag te manipuleren op manieren die schade veroorzaken, mogen helemaal niet worden ingezet. Een juridische analyse die verboden praktijken onder de verordening onderzoekt, identificeerde chatbots voor de geestelijke gezondheidszorg die overtuigende dialogen of gamification gebruiken om patiëntengedrag te beïnvloeden als mogelijk overschrijdend naar verboden terrein, afhankelijk van hun ontwerp en inzetcontext. Hoogrisicosystemen kunnen daarentegen wel worden ingezet, maar alleen na het voldoen aan een strenge reeks conformiteitsvereisten.

Hoe kwetsbaarheid van de populatie de risicoclassificatie vormgeeft

Een van de minder besproken aspecten van het risicokader van de verordening is de aandacht voor de kenmerken van de betrokken personen, niet alleen de technische functie van het AI-systeem. De verordening vereist expliciet dat de kwetsbaarheid van gebruikers en getroffen personen wordt meegenomen in het risicobeoordelingsproces.

Patiënten die psychiatrische zorg ontvangen, waaronder mensen met ernstige psychische aandoeningen, mensen in acute crisis en mensen met aandoeningen die cognitie of besluitvormingscapaciteit beïnvloeden, worden onder EU-wetgeving erkend als een kwetsbare groep.

Dit heeft praktische gevolgen voor de classificatie. Een documentatietool die gestructureerde klinische verslagen genereert, kan technisch gezien dezelfde functie vervullen in de dermatologie als in de psychiatrie. Maar de klinische context in de psychiatrie, waar verslagen direct beslissingen kunnen beïnvloeden over detentie, medicatie of crisisinterventie, en de kwetsbaarheid van de patiëntenpopulatie, betekent dat dezelfde technische functie een ander regelgevend gewicht krijgt. Psychiaters moeten niet aannemen dat een tool die wordt aangeduid als documentatie-assistent in plaats van diagnostisch hulpmiddel, automatisch onder lichtere regelgevende vereisten valt.

Welke AI-tools in de praktijk van de geestelijke gezondheidszorg het meest waarschijnlijk als hoogrisico worden geclassificeerd

Het in kaart brengen van veelvoorkomende AI-toolcategorieën tegenover de classificatiecriteria van de verordening is niet eenvoudig, omdat classificatie afhangt van het beoogde doel en de inzetcontext, niet alleen van de productcategorie. Dat gezegd hebbende, zullen verschillende typen tools die in de psychiatrische praktijk worden gebruikt, vrijwel altijd als hoogrisico worden aangemerkt:

• Risicostratificatie- en triagetools: Systemen die zelfmoordrisico beoordelen, psychiatrische achteruitgang voorspellen of patiënten prioriteren voor spoedeisende beoordeling behoren tot de duidelijkste gevallen voor hoogrisicoclassificatie. Een systematische review gepubliceerd in 2026 vond dat zelfmoordpreventie en crisisdetectie een veelvoorkomend domein zijn voor AI-chatbots in de geestelijke gezondheidszorg, precies de context waar foutieve outputs de ernstigste gevolgen kunnen hebben.

• Diagnostische ondersteuningstools: AI-systemen die diagnoses, differentiële diagnoses of diagnostische codes voor psychische aandoeningen suggereren, vallen binnen de expliciete reikwijdte van bijlage III.

• Systemen voor het volgen van stemming en symptomen: Wanneer deze systemen outputs genereren die direct klinische beslissingen beïnvloeden, in plaats van enkel door patiënten gerapporteerde gegevens vast te leggen, zullen ze waarschijnlijk als hoogrisico worden beschouwd.

• AI-ondersteunde psychotherapie-agenten: Academisch onderzoek naar op grote taalmodellen gebaseerde psychotherapie-agenten heeft het ontbreken van gestandaardiseerde veiligheidsevaluatiemethoden voor deze categorie benadrukt en schade gedocumenteerd door ongereguleerde AI-chatbots die door kwetsbare groepen worden gebruikt, wat het argument voor hoogrisicoclassificatie versterkt. Een groot taalmodel, of LLM, is een AI-systeem dat is getraind op grote hoeveelheden tekst om menselijke taal te begrijpen en te genereren.

• Klinische beslissingsondersteuningstools: Elk AI-systeem dat behandelbeslissingen in een geestelijke gezondheidszorgsetting aanbeveelt of beïnvloedt, inclusief medicatiesuggesties of aanbevelingen voor zorgtrajecten, valt binnen het hoogrisicokader.

Een belangrijk punt dat wordt genoemd in de richtlijnen van de Europese Commissie over AI in de gezondheidszorg is dat aanbieders die menen dat hun systeem niet aan de hoogrisicodrempel voldoet, die beoordeling moeten documenteren. De bewijslast om een lagere risicoclassificatie aan te tonen ligt bij de aanbieder, niet bij de toezichthouder.

Waar klinische documentatietools zich in het classificatiekader bevinden

AI-assistenten voor documentatie, tools die klinische consulten transcriberen en structureren in verslagen, verwijsbrieven of ontslagbrieven, nemen een meer omstreden positie in binnen het classificatiekader. De vraag of dergelijke tools automatisch hoogrisico zijn, kent geen eenduidig antwoord.

Een documentatietool die passief spraak transcribeert en ongestructureerde tekst presenteert voor een zorgverlener om te beoordelen en te bewerken, bevindt zich op een ander punt op het risicospectrum dan een tool die gestructureerde klinische verslagen genereert, diagnostische codes toepast of outputs produceert die routinematig zonder significante wijziging door de zorgverlener worden gebruikt om zorgbeslissingen te beïnvloeden.

De classificatielogica van de verordening richt zich op het beoogde doel en het realistische gebruik van de output van het systeem. Zoals de academische analyse van de AI-verordening in de gezondheidszorg bevestigt, is de interactie tussen de AI-verordening en de MDR hier bijzonder relevant: als een documentatietool kwalificeert als software als medisch hulpmiddel onder de MDR, zal deze waarschijnlijk ook hoogrisicoclassificatie onder de AI-verordening krijgen.

In de geestelijke gezondheidszorg ligt de drempel waarop een documentatietool als hoogrisico wordt aangemerkt aantoonbaar lager dan in andere specialismen. Klinische verslagen in de psychiatrie worden vaak gebruikt om beslissingen over gedwongen behandeling, wilsbekwaamheidsbeoordelingen en verwijzingen voor beschermingsmaatregelen te ondersteunen. Wanneer door AI gegenereerde verslagen direct in die beslissingen worden meegenomen, zelfs als de zorgverlener ze nominaal beoordeelt, beïnvloedt de output van de tool feitelijk een klinische beslissing met grote gevolgen voor een kwetsbaar individu.

Een belangrijke nuance: richtlijnen van de Medical Device Coordination Group (MDCG) verduidelijken dat AI-systemen die uitsluitend binnen één zorginstelling zijn ontwikkeld en gebruikt, zonder op de markt te worden gebracht, onderworpen kunnen zijn aan aangepaste verplichtingen. Dit geldt voor een beperkte groep interne tools en heeft geen invloed op commercieel aangeschafte producten.

Conformiteitsvereisten die psychiaters en praktijkmanagers moeten verifiëren

Voor AI-systemen die als hoogrisico zijn geclassificeerd, legt de verordening een reeks verplichtingen op waaraan moet worden voldaan vóór inzet. Vanuit het perspectief van een psychiater of praktijkmanager die een AI-tool aanschaft, zijn de volgende de belangrijkste vereisten om bij elke leverancier te verifiëren:

• CE-markering en MDR-compliance: Wanneer de tool kwalificeert als medisch hulpmiddel, is CE-markering onder de MDR vereist. Hoogrisico-AI-tools die ook medische hulpmiddelen zijn moeten voldoen aan zowel de MDR-conformiteitsbeoordeling als de vereisten van de AI-verordening. Dit zijn parallelle verplichtingen, geen alternatieven.

• Technische documentatie: Leveranciers moeten uitgebreide technische documentatie bijhouden die het ontwerp van het systeem, het ontwikkelingsproces, de kenmerken van trainingsgegevens en prestatievalidatie aantoont. Deze documentatie moet beschikbaar zijn voor inspectie.

• Risicomanagementsysteem: Een gedocumenteerd risicomanagementproces afgestemd op ISO 14971 of gelijkwaardige normen is vereist. De systematische review uit 2026 over chatbots voor de geestelijke gezondheidszorg vond dat 78,8 procent van de beoordeelde studies als hoogrisico werd aangemerkt voor de nauwkeurigheid van cybersecurity-evaluatie, wat aangeeft dat formele adversarial testing en gestructureerde dreigingsmodellering zeldzaam blijven. Psychiaters moeten deze lacune direct bij leveranciers aankaarten.

• Mechanismen voor menselijk toezicht: Hoogrisicosystemen moeten zo zijn ontworpen dat effectief menselijk toezicht mogelijk is, inclusief de mogelijkheid voor zorgverleners om de output van het systeem te overschrijven, te negeren of in te grijpen. Dit is een wettelijke vereiste, geen optionele functie.

• Logging en audittrails: Het systeem moet zijn operaties automatisch loggen tot een niveau dat post-hoc beoordeling ondersteunt van hoe outputs zijn gegenereerd. Dit is bijzonder relevant in de psychiatrie, waar klinische beslissingen onderworpen kunnen zijn aan juridisch onderzoek.

• Nauwkeurigheid, robuustheid en cyberbeveiliging: Leveranciers moeten aantonen dat het systeem presteert op een gedefinieerd niveau van nauwkeurigheid en bestand is tegen fouten en kwaadwillende inputs.

Een op zorgverleners gerichte gids gepubliceerd in Psychiatria Danubina merkte op dat deze regelgevende concepten voor zorgverleners vaak onduidelijk zijn, en adviseerde dat zorgprofessionals voldoende vertrouwd raken met het kader om AI-tools kritisch te kunnen beoordelen vóór adoptie.

Transparantieverplichtingen bij het gebruik van AI in consulten voor de geestelijke gezondheidszorg

De transparantievereisten van de AI-verordening zijn onderscheiden van, maar aanvullend op, de hierboven beschreven conformiteitsverplichtingen. In een klinische setting vertalen ze zich in concrete plichten die rusten op de inzetter van het systeem, wat in de meeste gevallen de zorginstelling of praktijk betekent, niet de leverancier.

Wanneer een AI-systeem betrokken is bij een klinische interactie, of het nu verslagen genereert, een diagnostische beslissing ondersteunt of een deel van een beoordeling uitvoert, hebben patiënten het recht om geïnformeerd te worden. In de geestelijke gezondheidszorg is deze verplichting extra belangrijk. De therapeutische relatie is fundamenteel voor psychiatrische zorg, en het vertrouwen van patiënten in die relatie hangt mede af van hun begrip van hoe beslissingen over hun zorg worden genomen.

Belangrijke transparantieverplichtingen zijn onder meer:

• Openbaarmaking van AI-betrokkenheid: Patiënten moeten worden geïnformeerd wanneer een AI-systeem wordt gebruikt op een manier die hun zorg wezenlijk beïnvloedt. Dit geldt zelfs wanneer de zorgverlener de uiteindelijke beslissingsbevoegdheid behoudt.

• Interactie met AVG: Gegevens over de geestelijke gezondheidszorg worden geclassificeerd als een bijzondere categorie onder de Algemene Verordening Gegevensbescherming (AVG), die het hoogste niveau van gegevensbescherming vereist. Wanneer AI-systemen deze gegevens verwerken, bijvoorbeeld door transcriptie van consulten, moeten de rechtmatige grondslag voor verwerking, beleid voor gegevensbewaring en rechten op inzage en verwijdering duidelijk worden vastgesteld. De officiële richtlijnen van de Europese Commissie merken op dat de verordening Europese gezondheidsgegevensruimte, die in 2025 in werking trad maar waarvan de bepalingen geleidelijk in de daaropvolgende jaren van toepassing worden, een extra governancelaag biedt voor het gebruik van klinische AI-gegevens.

• Geïnformeerde toestemming: In de psychiatrie, waar patiënten aandoeningen kunnen hebben die hun vermogen om toestemming te geven beïnvloeden, vereist het proces voor het verkrijgen van betekenisvolle geïnformeerde toestemming voor AI-betrokkenheid bij zorg extra zorgvuldigheid. Een governanceprotocol uit 2025 voor AI-ondersteunde psychotherapie stelde gelaagde toestemmingsprocessen voor als een praktisch mechanisme om deze uitdaging aan te pakken, expliciet afgestemd op de vereisten van de EU AI-verordening en de AVG.

Wat te vragen aan een leverancier voordat een AI-tool in een psychiatrische praktijk wordt ingezet

Psychiaters en praktijkmanagers worden onder de verordening geclassificeerd als inzetters van AI-systemen. Dit creëert directe wettelijke verplichtingen, maar positioneert hen ook als geïnformeerde aankopers die leveranciers ter verantwoording moeten roepen. De volgende vragen vormen een minimale due diligence-standaard:

• Is dit systeem geclassificeerd als hoogrisico onder de EU AI-verordening? Zo niet, welke gedocumenteerde beoordeling ondersteunt die conclusie?

• Kwalificeert het systeem als medisch hulpmiddel onder de MDR? Zo ja, heeft het CE-markering en welke aangemelde instantie heeft de conformiteitsbeoordeling uitgevoerd?

• Is het systeem klinisch gevalideerd in een populatie met geestelijke gezondheidsproblemen? Kunnen validatiegegevens worden gedeeld, inclusief prestatiecijfers uitgesplitst per patiëntensubgroep?

• Waar worden patiëntgegevens verwerkt en opgeslagen? Bevestigt de leverancier EU-gegevensopslag en wat zijn het beleid voor gegevensbewaring en verwijdering?

• Welke audittrail genereert het systeem en hoe kunnen logs worden geraadpleegd voor klinische governance of juridische beoordeling?

• Welke mechanismen voor menselijke overschrijving zijn in het systeem ingebouwd en hoe worden ze gedocumenteerd?

• Hoe behandelt de leverancier modelupdates? Worden bijgewerkte versies opnieuw gevalideerd vóór inzet?

• Wat is het proces van de leverancier voor het rapporteren van en reageren op incidenten met door AI gegenereerde outputs die mogelijk hebben bijgedragen aan patiëntschade?

De systematische review over AI-chatbots voor de geestelijke gezondheidszorg vond dat de meeste systemen vertrouwen op algemene LLM's en worden ingezet via consumentgerichte platforms zonder klinisch toezicht, een patroon dat onverenigbaar is met de vereisten van de AI-verordening voor hoogrisicosystemen in psychiatrische settings.

Hoe de AI-verordening zich verhoudt tot bestaande wetgeving voor medische hulpmiddelen en gegevensbescherming

De AI-verordening is een horizontale regelgeving. Deze is van toepassing over sectoren heen en staat naast, in plaats van ter vervanging van, bestaande sectorspecifieke wetgeving. Voor psychiaters betekent dit dat compliance met de AI-verordening geen verplichtingen onder de MDR of AVG opheft, en omgekeerd.

De academische analyse van de AI-verordening in de gezondheidszorg beschrijft de verordening als een horizontaal regelgevend kader en behandelt expliciet de interactie tussen AI-verordening conformiteitsverplichtingen en MDR-vereisten. Een AI-tool die in de psychiatrische praktijk wordt gebruikt, kan gelijktijdig onderworpen zijn aan:

• EU AI-verordening hoogrisicoverplichtingen (als deze voldoet aan de criteria van bijlage III)

• MDR-verplichtingen (als deze kwalificeert als software als medisch hulpmiddel)

• AVG-verplichtingen (omdat gegevens over de geestelijke gezondheidszorg een bijzondere categorie zijn)

• Nationale wetgeving voor gegevens over de geestelijke gezondheidszorg in sommige EU-lidstaten, die aanvullende beperkingen kunnen opleggen aan de verwerking van psychiatrische dossiers

De Healthy Europe-beleidsanalyse merkt op dat de Europese markt voor apps voor de geestelijke gezondheidszorg duizenden producten bevat met beperkte klinische evaluatie, en dat dubbele compliance onder de AI-verordening en MDR extra complexiteit toevoegt die veel leveranciers nog niet volledig hebben aangepakt. Psychiaters moeten niet aannemen dat de aanwezigheid van een product op de markt volledige regelgevingscompliance betekent, met name tijdens de huidige overgangsperiode.

Er is ook een erkende beperking in het huidige regelgevingslandschap. Een peer-reviewed juridische analyse heeft betoogd dat de EU AI-verordening, hoewel direct van toepassing op AI voor de geestelijke gezondheidszorg, op zichzelf onvoldoende is om alle juridische en ethische lacunes in dit domein aan te pakken. De verordening lost geen vragen op over klinische aansprakelijkheid wanneer AI bijdraagt aan een schadelijke beslissing, en nationale kaders voor medische aansprakelijkheid zullen die vragen onafhankelijk blijven regelen.

Belangrijke data en overgangstijdlijnen die psychiaters moeten kennen

De AI-verordening wordt in fasen geïmplementeerd en niet alle verplichtingen zijn al van kracht. Voor psychiaters die nu tools evalueren, is de volgende tijdlijn direct relevant:

• Februari 2025: Bepalingen over verboden AI-praktijken traden in werking. AI-systemen die psychologische kwetsbaarheden uitbuiten of subliminale manipulatie gebruiken in klinische contexten zijn vanaf deze datum verboden.

• Augustus 2025: Verplichtingen met betrekking tot algemene AI-modellen, inclusief LLM's die worden gebruikt als basis voor klinische AI-tools, traden in werking.

• Augustus 2026: Het volledige hoogrisico-compliancekader, inclusief alle conformiteitsbeoordeling, documentatie, toezicht en transparantieverplichtingen, is van toepassing op AI-systemen in de gezondheidszorg. Dit is de deadline waartegen aanbieders en inzetters van hoogrisico-AI-systemen volledig compliant moeten zijn.

• Augustus 2027: Een verlengde overgang geldt specifiek voor AI-systemen die ook gereguleerde medische hulpmiddelen zijn onder de MDR of de verordening in-vitro diagnostische medische hulpmiddelen (IVDR), wat de langere conformiteitsbeoordelingstermijnen in de sector van medische hulpmiddelen weerspiegelt.

De deadline van augustus 2026 is het meest direct relevant voor psychiaters die vandaag AI-tools evalueren of inzetten. Tools die nu worden aangeschaft, moeten binnen enkele maanden na de publicatie van dit artikel voldoen aan volledige hoogrisico-compliancevereisten. Psychiaters en praktijkmanagers die midden in een aanschaf- of inzetproces zitten, moeten de compliancedeadline behandelen als een actuele operationele zorg, niet als een toekomstige overweging.

Een wetgevingsreview van 50 staten in de VS gepubliceerd in JMIR Mental Health, hoewel gericht op de Amerikaanse context, identificeerde een consistent patroon van zorgverleners en professionele organisaties die afwezig blijven bij AI-beleidsvorming, wat resulteert in kaders die afwijken van de klinische realiteit. Hetzelfde risico bestaat in Europa. Psychiaters die actief betrokken zijn bij de vereisten van de AI-verordening, als aankopers, als inzetters en als bijdragers aan professionele richtlijnen, zijn beter gepositioneerd om vorm te geven aan hoe deze tools in de praktijk worden geïmplementeerd dan degenen die regelgeving als een externe beperking zien.

Veelgestelde vragen

▶ Waarom worden AI-tools die in de geestelijke gezondheidszorg worden gebruikt, strenger gereguleerd onder de EU AI-verordening?

Het risicoclassificatiekader van de EU AI-verordening houdt rekening met de kwetsbaarheid van de patiëntenpopulatie, de ernst van mogelijke schade door onjuiste AI-outputs en de complexiteit van klinisch oordeel in de psychiatrie. Patiënten met geestelijke gezondheidsproblemen, waaronder mensen in acute crisis of met aandoeningen die de besluitvormingscapaciteit beïnvloeden, worden onder EU-wetgeving erkend als een kwetsbare groep. Die erkenning verhoogt direct het regelgevend gewicht dat wordt toegepast op AI-tools die in psychiatrische settings worden ingezet, zelfs wanneer die tools functies uitvoeren die in andere specialismen lichtere vereisten zouden oproepen.

▶ Welke AI-tools die in de psychiatrische praktijk worden gebruikt, worden het meest waarschijnlijk als hoogrisico geclassificeerd?

Verschillende categorieën trekken consequent hoogrisicoclassificatie aan onder de verordening. Risicostratificatie- en triagetools, inclusief tools die zelfmoordrisico beoordelen of psychiatrische achteruitgang voorspellen, vallen duidelijk binnen deze groep. Diagnostische ondersteuningstools die diagnoses of diagnostische codes voor psychische aandoeningen suggereren, worden expliciet gedekt door bijlage III van de verordening. Klinische beslissingsondersteuningstools die behandelbeslissingen beïnvloeden, AI-ondersteunde psychotherapie-agenten en systemen voor het volgen van stemming of symptomen waarvan de outputs direct klinische beslissingen beïnvloeden, zullen waarschijnlijk ook als hoogrisico worden geclassificeerd.

▶ Worden klinische documentatietools, zoals AI-assistenten, automatisch als hoogrisico geclassificeerd in settings voor de geestelijke gezondheidszorg?

Niet automatisch, maar de drempel ligt lager in de psychiatrie dan in andere specialismen. Een tool die passief spraak transcribeert voor een zorgverlener om te beoordelen, bevindt zich op een ander punt op het risicospectrum dan een tool die gestructureerde klinische verslagen genereert of diagnostische codes toepast. In de psychiatrie beïnvloeden klinische verslagen vaak beslissingen over gedwongen behandeling, wilsbekwaamheidsbeoordelingen en verwijzingen voor beschermingsmaatregelen. Wanneer door AI gegenereerde verslagen direct in die beslissingen worden gebruikt, zelfs met nominale beoordeling door de zorgverlener, beïnvloedt de output van de tool feitelijk een beslissing met grote gevolgen voor een kwetsbaar individu. Als de tool ook kwalificeert als software als medisch hulpmiddel onder de verordening medische hulpmiddelen, wordt hoogrisicoclassificatie onder de AI-verordening waarschijnlijker.

▶ Aan welke conformiteitsvereisten moet een hoogrisico-AI-tool voldoen voordat deze in een psychiatrische praktijk kan worden ingezet?

Hoogrisico-AI-systemen moeten aan verschillende vereisten voldoen vóór inzet. Leveranciers moeten uitgebreide technische documentatie bijhouden die het ontwerp van het systeem, trainingsgegevens en prestatievalidatie omvat. Een gedocumenteerd risicomanagementproces is vereist. Het systeem moet mechanismen voor menselijk toezicht bevatten die zorgverleners in staat stellen de outputs te overschrijven of te negeren. Automatische logging van systeemoperaties moet aanwezig zijn om post-hoc beoordeling te ondersteunen. Wanneer de tool ook kwalificeert als medisch hulpmiddel, is CE-markering onder de verordening medische hulpmiddelen vereist naast AI-verordening conformiteit. Leveranciers moeten ook gedefinieerde niveaus van nauwkeurigheid, robuustheid en cyberbeveiliging aantonen.

▶ Welke transparantieverplichtingen zijn van toepassing bij het gebruik van AI in consulten voor de geestelijke gezondheidszorg?

Patiënten moeten worden geïnformeerd wanneer een AI-systeem wordt gebruikt op een manier die hun zorg wezenlijk beïnvloedt, zelfs wanneer de zorgverlener de uiteindelijke beslissingsbevoegdheid behoudt. Gegevens over de geestelijke gezondheidszorg worden geclassificeerd als een bijzondere categorie onder de Algemene Verordening Gegevensbescherming, wat betekent dat de rechtmatige grondslag voor verwerking, beleid voor gegevensbewaring en rechten van patiënten op inzage en verwijdering duidelijk moeten worden vastgesteld. In de psychiatrie, waar patiënten aandoeningen kunnen hebben die hun vermogen om toestemming te geven beïnvloeden, vereist het verkrijgen van betekenisvolle geïnformeerde toestemming voor AI-betrokkenheid bij zorg extra zorgvuldigheid. Een governanceprotocol uit 2025 stelde gelaagde toestemmingsprocessen voor als een praktische benadering van deze uitdaging.

▶ Kan een AI-tool die verboden is onder de EU AI-verordening worden gebruikt in een setting voor de geestelijke gezondheidszorg als deze klinisch voordelig is?

Nee. Verboden AI-praktijken zijn ronduit verboden en mogen niet worden ingezet, ongeacht het waargenomen klinische voordeel. De verordening identificeert systemen die psychologische kwetsbaarheden uitbuiten om gedrag op schadelijke manieren te manipuleren als verboden. Chatbots voor de geestelijke gezondheidszorg die overtuigende dialogen of gamification gebruiken om patiëntengedrag te beïnvloeden, kunnen overgaan naar verboden terrein, afhankelijk van hun ontwerp en inzetcontext. Het onderscheid tussen een verboden systeem en een hoogrisicosysteem is significant: hoogrisicosystemen kunnen worden ingezet, maar alleen na het voldoen aan strenge conformiteitsvereisten.

▶ Welke vragen moet een psychiater of praktijkmanager aan een leverancier stellen voordat een AI-tool wordt aangeschaft?

Minimaal moet u vragen of het systeem is geclassificeerd als hoogrisico onder de EU AI-verordening en, zo niet, welke gedocumenteerde beoordeling die conclusie ondersteunt. Vraag of het kwalificeert als medisch hulpmiddel en, zo ja, of het CE-markering heeft. Vraag om klinische validatiegegevens specifiek voor een populatie met geestelijke gezondheidsproblemen, inclusief prestatiecijfers uitgesplitst per patiëntensubgroep. Bevestig waar patiëntgegevens worden verwerkt en opgeslagen, en of EU-gegevensopslag van toepassing is. Vraag welke audittrail het systeem genereert, welke mechanismen voor menselijke overschrijving bestaan, hoe modelupdates worden behandeld en wat het proces van de leverancier is voor het rapporteren van incidenten met door AI gegenereerde outputs die mogelijk hebben bijgedragen aan patiëntschade.

▶ Hoe verhoudt de EU AI-verordening zich tot de verordening medische hulpmiddelen en de AVG in de psychiatrische praktijk?

De EU AI-verordening staat naast bestaande wetgeving in plaats van deze te vervangen. Een AI-tool die in de psychiatrische praktijk wordt gebruikt, kan gelijktijdig onderworpen zijn aan EU AI-verordening hoogrisicoverplichtingen, verplichtingen onder de verordening medische hulpmiddelen als deze kwalificeert als software als medisch hulpmiddel, en verplichtingen onder de Algemene Verordening Gegevensbescherming omdat gegevens over de geestelijke gezondheidszorg een bijzondere categorie zijn. Sommige EU-lidstaten leggen ook aanvullende nationale beperkingen op aan de verwerking van psychiatrische dossiers. Compliance met één kader ontslaat niet van verplichtingen onder de andere. Een peer-reviewed juridische analyse heeft opgemerkt dat de AI-verordening alleen onvoldoende is om alle juridische en ethische lacunes specifiek voor AI in de geestelijke gezondheidszorg aan te pakken.

▶ Wat zijn de belangrijkste EU AI-verordening compliancedeadlines waarvan psychiaters zich bewust moeten zijn?

Bepalingen over verboden AI-praktijken traden in werking in februari 2025. Verplichtingen met betrekking tot algemene AI-modellen, inclusief grote taalmodellen die worden gebruikt als basis voor klinische AI-tools, traden in werking in augustus 2025. Het volledige hoogrisico-compliancekader, dat conformiteitsbeoordeling, documentatie, toezicht en transparantieverplichtingen omvat, is van toepassing vanaf augustus 2026. Een verlengde overgang tot augustus 2027 geldt specifiek voor AI-systemen die ook gereguleerde medische hulpmiddelen zijn onder de verordening medische hulpmiddelen of de verordening in-vitro diagnostische medische hulpmiddelen. Tools die nu worden aangeschaft, moeten voldoen aan volledige hoogrisico-compliancevereisten tegen augustus 2026.

▶ Lost de EU AI-verordening vragen op over klinische aansprakelijkheid wanneer AI bijdraagt aan een schadelijke beslissing in de psychiatrie?

Nee. Een peer-reviewed juridische analyse heeft bevestigd dat de EU AI-verordening geen vragen oplost over klinische aansprakelijkheid wanneer AI bijdraagt aan een schadelijke beslissing. Nationale kaders voor medische aansprakelijkheid blijven die vragen onafhankelijk regelen. De verordening stelt compliance- en conformiteitsverplichtingen vast voor aanbieders en inzetters, maar creëert geen uniform aansprakelijkheidsregime voor AI-gerelateerde klinische schade. Psychiaters moeten juridisch advies inwinnen dat specifiek is voor hun jurisdictie bij het beoordelen van aansprakelijkheidsrisico's door de inzet van AI-tools.