Classification des risques de l'AI Act pour les outils de santé mentale

Le règlement européen sur l'IA (ci-après « le règlement ») classe la majorité des outils d'IA utilisés en psychiatrie comme à haut risque. Cela impose des obligations de conformité strictes aux fournisseurs et aux déployeurs, y compris aux psychiatres eux-mêmes. Comprendre comment cette réglementation classe ces outils a des conséquences directes sur ce qui peut être déployé, dans quelles conditions, et quelles obligations s'appliquent envers les patients.

Pourquoi la santé mentale attire les exigences réglementaires les plus strictes

Le règlement n'applique pas une norme uniforme à toutes les applications d'IA dans le domaine de la santé. Son système de classification des risques tient compte du contexte clinique, de la nature des décisions influencées et des caractéristiques de la population concernée. La pratique en santé mentale se trouve à l'intersection de plusieurs facteurs qui attirent systématiquement les exigences les plus strictes : la vulnérabilité des patients, la gravité des préjudices potentiels en cas de décision erronée, et le fait que le jugement clinique en psychiatrie repose sur la relation thérapeutique et reste difficile à auditer.

Une analyse évaluée par les pairs publiée en 2024 a conclu que l'utilisation de l'IA générative en santé mentale présente des risques importants, et que le règlement, bien que directement applicable, pourrait à lui seul ne pas suffire à combler les lacunes juridiques et éthiques propres aux contextes psychiatriques. Ce constat est le plus important à retenir de la littérature récente sur le sujet : la conformité réglementaire est une responsabilité partagée entre fournisseurs et déployeurs.

Comment le règlement classe les outils d'IA en santé mentale

Le règlement établit un système à plusieurs niveaux. Au sommet se trouvent les pratiques d'IA interdites, des systèmes purement et simplement prohibés, comme ceux qui exploitent les vulnérabilités psychologiques pour manipuler le comportement de manière préjudiciable. Les chatbots de santé mentale qui recourent à un dialogue persuasif ou à la gamification pour influencer le comportement des patients pourraient franchir cette limite, selon leur conception et leur contexte de déploiement. Juste en dessous se situe la catégorie à haut risque, qui impose les obligations de conformité les plus étendues mais autorise le déploiement sous conditions.

L'article 6 du règlement définit deux voies vers la classification à haut risque. La première s'applique lorsqu'un système d'IA constitue un composant de sécurité d'un produit couvert par la législation d'harmonisation de l'Union européenne figurant à l'annexe I, notamment le règlement relatif aux dispositifs médicaux (RDM). La seconde s'applique lorsque le système relève de l'une des catégories énumérées à l'annexe III. La plupart des outils conçus pour aider au diagnostic psychiatrique, prédire la détérioration ou stratifier les risques atteignent le statut à haut risque par la première voie, celle de l'article 6(1) et de l'annexe I, en tant que composants de sécurité de produits déjà réglementés par le RDM. Les obligations qui en découlent sont les mêmes quelle que soit la voie empruntée, mais la voie juridique détermine quel processus d'évaluation de la conformité s'applique.

Le règlement exige également que la vulnérabilité des utilisateurs soit prise en compte dans le processus d'évaluation des risques. Les patients souffrant de maladies mentales graves, en crise aiguë ou présentant des troubles qui affectent leurs capacités cognitives répondront souvent, en pratique, à cette définition. Cela peut alourdir les obligations réglementaires applicables à un outil, même lorsque sa fonction technique serait soumise à des exigences plus légères dans une autre spécialité.

Quels outils sont systématiquement susceptibles d'être classés à haut risque

La classification dépend de l'usage prévu et du contexte de déploiement, et non de la seule catégorie de produit. Plusieurs types d'outils utilisés en psychiatrie attirent néanmoins systématiquement ce statut.

Les systèmes qui évaluent le risque de suicide ou prédisent la détérioration psychiatrique figurent parmi les cas les plus évidents. Une revue systématique publiée en 2026 a constaté que la prévention du suicide et la détection de crise étaient des domaines d'application courants pour les chatbots d'IA en santé mentale, précisément les contextes où les erreurs peuvent avoir les conséquences les plus graves. Les outils d'aide au diagnostic qui suggèrent des diagnostics ou des codes diagnostiques pour les troubles de santé mentale sont généralement qualifiés de dispositifs médicaux ; ils atteignent le statut à haut risque par la voie du RDM et de l'annexe I, et non par l'annexe III.

Pour les agents de psychothérapie assistés par IA, la recherche académique sur les agents fondés sur de grands modèles de langage a mis en évidence l'absence de méthodes standardisées pour évaluer la sécurité de ces systèmes, et documenté des préjudices causés par des chatbots non réglementés utilisés par des populations vulnérables. Tout système qui recommande ou influence des décisions de traitement relève du cadre à haut risque. Il en va de même pour tout système dont les résultats éclairent directement les décisions cliniques, plutôt que de simplement enregistrer des données rapportées par le patient.

En vertu de l'article 6(4), les fournisseurs qui estiment que leur système relevant de l'annexe III n'est pas à haut risque doivent documenter cette évaluation. C'est au fournisseur qu'il appartient de justifier une classification à risque plus faible, et non au régulateur.

Où se situent les outils de documentation clinique

Les assistants de documentation ambiants occupent une position plus discutée dans le cadre de classification. Un outil qui transcrit passivement la parole pour qu'un clinicien l'examine se situe à un point très différent du spectre des risques qu'un outil qui génère des comptes rendus médicaux structurés, applique des codes diagnostiques ou produit des résultats régulièrement utilisés sans modification significative pour éclairer les décisions de soins.

En psychiatrie, le seuil à partir duquel un outil de documentation devient à haut risque est sans doute plus bas que dans d'autres spécialités, et c'est le point que les psychiatres sous-estiment le plus souvent. Les comptes rendus médicaux servent fréquemment à étayer des décisions concernant le traitement obligatoire, les évaluations de capacité et les signalements de protection. Lorsque les notes générées par l'IA alimentent directement ces décisions, même si le clinicien les examine nominalement, le résultat de l'outil influence effectivement une décision à enjeux élevés concernant une personne vulnérable. L'analyse académique du règlement sur l'IA dans le domaine de la santé confirme que l'interaction entre le règlement sur l'IA et le RDM est particulièrement pertinente ici : si un outil de documentation est qualifié de logiciel en tant que dispositif médical, la classification à haut risque devient plus probable.

Les psychiatres doivent donc vérifier la classification réglementaire effective d'un outil, indépendamment de la manière dont il est commercialisé par son fournisseur.

Ce que les psychiatres doivent vérifier avant de déployer un outil d'IA

Pour les systèmes classés à haut risque, le règlement impose un ensemble d'obligations à satisfaire avant le déploiement. Un guide destiné aux cliniciens publié dans la revue Psychiatria Danubina recommande que les professionnels de santé acquièrent une connaissance suffisante du cadre réglementaire pour évaluer les outils d'IA de manière critique avant de les adopter. Les questions suivantes constituent un niveau minimal de diligence à poser à tout fournisseur :

• Ce système est-il classé à haut risque ? Si non, quelle évaluation documentée soutient cette conclusion ?

• Est-il qualifié de dispositif médical au sens du RDM ? Si oui, détient-il le marquage CE, et quel organisme notifié a réalisé l'évaluation de la conformité ? Les outils d'IA à haut risque qui sont également des dispositifs médicaux doivent satisfaire à la fois à l'évaluation de la conformité au titre du RDM et aux exigences du règlement sur l'IA, ces deux obligations s'appliquant en parallèle.

• Le système a-t-il été validé cliniquement dans une population de santé mentale ? Les données de validation peuvent-elles être communiquées, y compris les mesures de performance ventilées par sous-groupe de patients ?

• Où les données des patients sont-elles traitées et stockées ? Le fournisseur confirme-t-il un hébergement au sein de l'Union européenne, et quelles sont les politiques de conservation et de suppression des données ?

• Quelle piste d'audit le système génère-t-il ? Quels mécanismes de supervision humaine sont intégrés ? Comment les mises à jour du modèle sont-elles gérées ? Et quel est le processus pour signaler les incidents où les résultats du système pourraient avoir contribué à un préjudice ?

La revue systématique de 2026 sur les chatbots d'IA en santé mentale a constaté que 78,8 % des études examinées présentaient un risque élevé quant à la rigueur de l'évaluation de la cybersécurité, et que la plupart des systèmes s'appuient sur des grands modèles de langage à usage général déployés via des plateformes destinées aux consommateurs, sans supervision clinique. Ce mode de déploiement est incompatible avec les exigences du règlement applicables aux systèmes à haut risque en psychiatrie.

Obligations de transparence et interaction avec le RGPD

Les exigences de transparence du règlement incombent au déployeur, dans la plupart des cas l'établissement de santé ou le cabinet, et non le fournisseur. L'article 26(11) impose d'informer les patients lorsqu'un système d'IA à haut risque relevant de l'annexe III est utilisé pour prendre ou aider à prendre des décisions les concernant. L'article 50 impose séparément une divulgation pour les systèmes qui interagissent directement avec les patients, comme l'IA conversationnelle. En dehors de ces dispositions spécifiques, les psychiatres devraient néanmoins considérer l'information du patient comme une bonne pratique, conformément à leurs obligations professionnelles et aux exigences de transparence du Règlement général sur la protection des données (RGPD).

Le RGPD classe les données de santé mentale comme une catégorie spéciale, bénéficiant du plus haut niveau de protection. La base juridique du traitement, les politiques de conservation et les droits d'accès et d'effacement des patients doivent être clairement établis. Les orientations officielles de la Commission européenne précisent que le règlement sur l'espace européen des données de santé, entré en vigueur en 2025, ajoute une couche supplémentaire de gouvernance pour l'utilisation des données d'IA clinique.

En psychiatrie, certains patients présentent des troubles qui affectent leur capacité à consentir. Obtenir un consentement éclairé réel à l'implication de l'IA dans les soins exige donc une attention particulière. Un protocole de gouvernance de 2025 pour la psychothérapie assistée par IA a proposé des processus de consentement en plusieurs étapes comme réponse pratique à ce défi, en les alignant explicitement sur les exigences du règlement européen sur l'IA et du RGPD.

Cadres réglementaires superposés et limites reconnues

Le règlement sur l'IA est une réglementation horizontale : il s'ajoute à la législation sectorielle existante sans la remplacer. Un outil d'IA utilisé en psychiatrie peut simultanément relever des obligations à haut risque du règlement européen sur l'IA, des obligations du RDM s'il est qualifié de logiciel en tant que dispositif médical, des obligations du RGPD, et de la législation nationale sur les données de santé mentale dans certains États membres, qui peut imposer des restrictions supplémentaires sur le traitement des dossiers psychiatriques.

Sur ce point, l'analyse politique de Healthy Europe note que le marché européen des applications de santé mentale compte des milliers de produits dont l'évaluation clinique est limitée ou inexistante. La présence d'un produit sur le marché ne garantit pas une conformité réglementaire complète, en particulier pendant la période de transition actuelle. Par ailleurs, le règlement ne tranche pas les questions de responsabilité clinique lorsque l'IA contribue à une décision préjudiciable : les cadres nationaux de responsabilité médicale continuent de régir ces questions de manière indépendante.

Calendrier de mise en œuvre : dates clés pour les psychiatres

Le règlement est mis en œuvre par étapes. Les dispositions relatives aux pratiques interdites sont entrées en vigueur en février 2025. Les obligations relatives aux modèles d'IA à usage général, y compris les grands modèles de langage utilisés comme base d'outils cliniques, sont entrées en vigueur en août 2025. À la suite du règlement Omnibus sur l'IA (UE 2026/1744), entré en vigueur en juillet 2026, le cadre complet de conformité à haut risque pour les systèmes relevant de l'annexe III s'applique à partir de décembre 2027, au lieu d'août 2026 comme initialement prévu. Une période de transition prolongée jusqu'en août 2028 s'applique spécifiquement aux systèmes d'IA qui sont également des dispositifs médicaux réglementés au titre du RDM ou du règlement relatif aux dispositifs médicaux de diagnostic in vitro, afin de tenir compte des délais plus longs que requiert l'évaluation de la conformité dans ce secteur.

Ces échéances sont des préoccupations opérationnelles immédiates pour quiconque est en phase d'acquisition ou de déploiement. Un examen législatif publié dans JMIR Mental Health a identifié un schéma récurrent : les cliniciens restent absents des processus d'élaboration des politiques sur l'IA, ce qui produit des cadres qui s'écartent des réalités cliniques. Les psychiatres qui s'engagent activement avec les exigences du règlement, en tant qu'acquéreurs, déployeurs et contributeurs aux orientations professionnelles, sont mieux placés pour peser sur la manière dont ces outils sont mis en œuvre dans la pratique.

Questions fréquemment posées

▶ Pourquoi les outils d'IA utilisés dans les contextes de santé mentale font-ils l'objet d'une réglementation plus stricte en vertu du règlement européen sur l'IA

La vulnérabilité des patients psychiatriques est explicitement reconnue par le droit de l'UE, ce qui alourdit le poids réglementaire applicable aux outils d'IA dans ce contexte. En pratique, un outil remplissant une fonction identique dans une autre spécialité peut relever d'une catégorie de risque inférieure uniquement parce que la population concernée diffère.

▶ Quels outils d'IA utilisés dans la pratique psychiatrique sont les plus susceptibles d'être classés à haut risque

Les outils d'évaluation du risque suicidaire, de prédiction de la détérioration et d'aide au diagnostic psychiatrique figurent parmi les cas les plus clairs. Les agents de psychothérapie assistés par IA et les systèmes de suivi des symptômes dont les résultats alimentent directement les décisions cliniques sont également concernés. La voie juridique vers la classification à haut risque varie selon les outils, ce qui influe sur le processus d'évaluation de la conformité applicable.

▶ Les outils de documentation clinique, tels que les scribes médicaux IA, sont-ils automatiquement classés à haut risque dans les contextes de santé mentale

La classification dépend de l'usage réel. En psychiatrie, les comptes rendus médicaux servent fréquemment à étayer des décisions concernant le traitement obligatoire ou les évaluations de capacité. Un outil dont les notes alimentent ces décisions, même avec une relecture nominale du clinicien, est exposé à la classification à haut risque. La qualification éventuelle de l'outil comme logiciel en tant que dispositif médical renforce cette probabilité.

▶ Quelles exigences de conformité un outil d'IA à haut risque doit-il satisfaire avant de pouvoir être déployé dans une pratique psychiatrique

Documentation technique complète, gestion des risques, mécanismes de supervision humaine permettant au clinicien de passer outre les résultats, journalisation automatique des opérations, et niveaux définis de précision et de cybersécurité. Lorsque l'outil est également un dispositif médical, le marquage CE au titre du règlement relatif aux dispositifs médicaux s'applique en parallèle, sans substitution possible entre les deux procédures.

▶ Quelles obligations de transparence s'appliquent lors de l'utilisation de l'IA dans les consultations de santé mentale

Les articles 26(11) et 50 imposent des obligations de divulgation dans des situations précises. Au-delà de ces cas, informer le patient reste une bonne pratique professionnelle. En psychiatrie, certains patients présentent des troubles affectant leur capacité à consentir : un protocole de gouvernance publié en 2025 a proposé des processus de consentement en plusieurs étapes pour répondre à cette difficulté, en les alignant sur les exigences du règlement européen sur l'IA et du RGPD.

▶ Un outil d'IA interdit en vertu du règlement européen sur l'IA peut-il être utilisé dans un contexte de santé mentale s'il est cliniquement bénéfique

Non. L'interdiction est absolue et aucun bénéfice clinique ne peut y déroger. La distinction pratique à retenir est celle-ci : un système à haut risque peut être déployé après conformité, un système interdit ne peut pas l'être du tout, quelle que soit la situation.

▶ Quelles questions un psychiatre ou un gestionnaire de pratique devrait-il poser à un fournisseur avant de se procurer un outil d'IA

Demandez la classification réglementaire documentée, le statut de dispositif médical et le marquage CE le cas échéant, les données de validation clinique ventilées par sous-groupe de patients en santé mentale, la localisation du traitement et du stockage des données, la piste d'audit disponible, les modalités de gestion des mises à jour du modèle, et le processus de signalement des incidents liés aux résultats de l'outil.

▶ Comment le règlement européen sur l'IA interagit-il avec le règlement relatif aux dispositifs médicaux et le RGPD dans la pratique psychiatrique

Les trois cadres s'appliquent en parallèle et la conformité à l'un ne dispense pas des obligations au titre des autres. Certains États membres ajoutent des restrictions nationales sur le traitement des dossiers psychiatriques. Une analyse juridique évaluée par les pairs a conclu que le règlement européen sur l'IA seul est insuffisant pour combler toutes les lacunes juridiques et éthiques propres à l'IA en santé mentale.

▶ Quelles sont les dates limites clés de conformité au règlement européen sur l'IA dont les psychiatres devraient être conscients

Février 2025 : pratiques interdites. Août 2025 : modèles d'IA à usage général. Décembre 2027 : cadre complet à haut risque pour les systèmes relevant de l'annexe III, suite au règlement Omnibus sur l'IA (UE 2026/1744). Août 2028 : transition prolongée pour les systèmes d'IA qualifiés de dispositifs médicaux au titre du règlement relatif aux dispositifs médicaux ou du règlement relatif aux dispositifs médicaux de diagnostic in vitro.

▶ Le règlement européen sur l'IA résout-il les questions de responsabilité clinique lorsque l'IA contribue à une décision préjudiciable en psychiatrie

Non. Le règlement établit des obligations de conformité pour les fournisseurs et les déployeurs, mais ne crée pas de régime de responsabilité unifié pour les préjudices cliniques liés à l'IA. Les cadres nationaux de responsabilité médicale restent compétents. Les psychiatres doivent consulter un conseil juridique propre à leur juridiction pour évaluer leur exposition.