Un outil d’aide à la décision clinique (un système logiciel qui analyse les données des patients pour générer des recommandations cliniques) peut réussir tous les tests de qualité logicielle effectués par un fournisseur et rester néanmoins dangereux pour les patients qu’un médecin généraliste voit un lundi matin. La logique peut s’exécuter sans erreur. L’interface peut être réactive et intuitive. Le pipeline de données peut être pleinement opérationnel. Pourtant, si le modèle sous-jacent a été entraîné sur des patients hospitalisés, validé dans un système de santé non européen ou jamais testé face aux situations non différenciées qui caractérisent la médecine générale, l’outil peut produire des recommandations systématiquement trompeuses dans le contexte où il est réellement utilisé. Pour les décideurs en santé qui évaluent ces outils, que ce soit au niveau du cabinet, du réseau ou de la mise en service, comprendre à quoi ressemble une validation rigoureuse constitue désormais une responsabilité de gouvernance essentielle.

Pourquoi la validation n’est pas la même chose que les tests logiciels

Les tests logiciels confirment qu’un système se comporte comme ses développeurs l’ont prévu. La validation clinique pose une question différente : le comportement prévu du système produit-il des résultats sûrs et efficaces pour de vrais patients dans un environnement clinique réel ?

Cette distinction est importante, car un outil peut être techniquement correct et cliniquement dangereux en même temps. Un algorithme qui calcule avec précision un score de risque dérivé d’un ensemble de données de patients hospitalisés nord-américains peut systématiquement sous-estimer ou surestimer le risque dans une population de soins primaires européenne présentant des caractéristiques démographiques, des profils de comorbidité et des comportements de recours aux soins différents.

Un outil d’aide à la décision en matière de prescription validé dans un contexte de soins secondaires peut générer des alertes calibrées pour des patients suivis par des spécialistes, produisant une fatigue d’alerte ou des signaux manqués lorsqu’il est déployé en médecine générale.

Une revue systématique des approches de conception de systèmes d’aide à la décision clinique publiée dans le Journal of Medical Internet Research identifie la confiance des cliniciens et l’explicabilité comme des défis centraux d’adoption. Ce sont des problèmes qui découlent d’échecs de validation, et non d’échecs logiciels. Lorsque les recommandations d’un outil ne correspondent pas à la réalité clinique qu’un médecin généraliste observe, la confiance s’érode, même si le logiciel fonctionne techniquement correctement.

La validation clinique nécessite des preuves qu’un outil produit des résultats précis, sûrs et cliniquement appropriés pour la population et le contexte spécifiques dans lesquels il sera utilisé.

Le paysage réglementaire : où le Règlement sur les dispositifs médicaux trace la ligne

Tous les outils d’aide à la décision clinique ne sont pas des dispositifs médicaux au titre du Règlement européen sur les dispositifs médicaux (RDM UE) 2017/745, mais un nombre important et croissant le sont. La distinction réglementaire essentielle se situe entre les outils qui fournissent des informations cliniques générales et ceux qui orientent ou influencent directement une décision clinique pour un patient individuel.

En vertu du Règlement sur les dispositifs médicaux (RDM UE), un outil logiciel qui analyse des données spécifiques à un patient pour générer des recommandations de diagnostic, de traitement, de stratification des risques ou de prescription est susceptible de répondre à la définition d’un dispositif médical. Une fois classé comme tel, il doit porter le marquage CE, ce qui exige du fabricant qu’il démontre des preuves cliniques de sécurité et de performance avant de mettre l’outil sur le marché européen.

À partir de 2026, les fabricants de dispositifs médicaux dotés d’intelligence artificielle (IA, un système logiciel qui apprend des modèles à partir de données pour faire des prédictions ou des recommandations) font face à une double conformité au titre du RDM UE et de la loi sur l’IA de l’UE. La loi sur l’IA classe automatiquement les systèmes d’aide à la décision clinique basés sur l’IA comme à haut risque. Cela déclenche une évaluation de conformité obligatoire, une surveillance des biais, des obligations de transparence et des exigences de surveillance humaine qui vont au-delà de ce que le RDM UE exigeait seul.

Le cadre de conformité MyHealth@EU ajoute une couche supplémentaire pour les outils opérant dans les États membres de l’UE, exigeant que des métadonnées spécifiques à l’IA et une documentation de provenance soient intégrées dans les messages d’échange de données cliniques.

Le marquage CE n’est pas une garantie d’adéquation à l’usage dans un contexte clinique spécifique. C’est une déclaration du fabricant selon laquelle le dispositif répond aux exigences réglementaires applicables. Le marquage CE est une condition nécessaire pour un déploiement légal en Europe, mais pas une condition suffisante pour une adoption clinique dans un contexte particulier.

Une analyse évaluée par les pairs publiée dans npj Health Systems identifie des lacunes importantes dans les normes actuelles du RDM UE pour les systèmes d’IA adaptatifs et basés sur les données. Ces lacunes signifient que certains outils peuvent atteindre la conformité réglementaire tout en manquant encore la validation clinique rigoureuse qu’exige le déploiement en soins primaires.

Ce qu’implique réellement la validation clinique

La validation clinique est un processus structuré visant à démontrer qu’un outil fonctionne comme prévu dans une population de patients définie. Pour les outils d’aide à la décision clinique, les composantes essentielles comprennent :

• Preuves de précision clinique : Performance démontrée par rapport à une norme de référence, par exemple, comparaison de scores de risque avec des algorithmes validés de manière indépendante, ou comparaison de recommandations avec un examen clinique expert. Un exemple précoce de cette méthodologie apparaît dans une évaluation à méthodes mixtes d’un système d’aide à la décision clinique cardiovasculaire en soins primaires, où l’algorithme d’évaluation des risques de l’outil a été comparé à une version programmée de manière indépendante, atteignant un coefficient de corrélation intraclasse de 0,999, et les conseils de gestion ont été examinés par rapport aux recommandations des médecins issues d’un examen manuel des directives.

• Données de population représentatives : Preuves que l’ensemble de données de validation reflète les caractéristiques démographiques, cliniques et socioéconomiques de la population dans laquelle l’outil sera utilisé. La validation sur un ensemble de données restreint ou non représentatif limite la généralisabilité des revendications de performance.

• Examen indépendant : La validation interne par le fabricant est nécessaire mais pas suffisante. La publication évaluée par les pairs, l’audit indépendant ou l’évaluation par un tiers fournissent un contrôle de la qualité méthodologique et de l’intégrité des revendications de performance.

• Études prospectives ou rétrospectives dans le contexte cible : L’analyse rétrospective de données existantes peut établir une performance de base, mais les études prospectives, idéalement dans le contexte de soins réel, fournissent des preuves plus solides d’utilité clinique en conditions réelles.

La validation menée dans un pays ou un contexte de soins ne se transfère pas automatiquement. Une revue exploratoire de la mise en œuvre de systèmes d’aide à la décision clinique pour l’asthme en soins primaires, couvrant 18 essais dans des contextes incluant le Royaume-Uni et l’Espagne, illustre comment les résultats de mise en œuvre varient considérablement d’un système de santé à l’autre, même au sein de l’Europe, en fonction de l’intégration des flux de travail, des caractéristiques de la population de patients et des directives cliniques locales.

Comment les soins primaires introduisent des défis de validation spécifiques

La médecine générale présente des conditions qui diffèrent structurellement des contextes hospitaliers et spécialisés dans lesquels de nombreux outils d’aide à la décision clinique sont d’abord développés et validés. Ces différences influent sur la question de savoir si la performance d’un outil dans un contexte prédit sa performance dans un autre.

Les caractéristiques des soins primaires qui compliquent le transfert de validation incluent :

• Présentations non différenciées : Les médecins généralistes rencontrent des patients avant qu’un diagnostic n’ait été établi. Un outil validé sur des diagnostics codés issus de dossiers de soins secondaires peut mal fonctionner lorsqu’il est appliqué aux situations ambiguës, au niveau des symptômes, qui se présentent dans un cabinet de médecine générale.

• Pression temporelle et charge mentale : Une forte demande de soins et des structures fragmentées sont des caractéristiques reconnues des systèmes de soins primaires à travers l’Europe. Un outil qui nécessite une saisie de données importante ou interrompt le flux clinique peut entraîner des solutions de contournement qui compromettent sa fonction prévue et sa performance validée.

• Données démographiques diverses et non sélectionnées : Les populations de validation hospitalières sont sélectionnées par des parcours d’orientation et des critères d’admission. Les populations de médecins généralistes ne le sont pas. L’âge, la multimorbidité, la littératie en santé et la diversité socioéconomique en soins primaires peuvent différer substantiellement des cohortes hospitalières, affectant à la fois la prévalence des conditions et les taux de base dont dépendent les algorithmes prédictifs.

• Intégration avec les systèmes existants : Une étude qualitative d’un prototype de système d’aide à la décision clinique en soins primaires allemands, le projet SATURN, a constaté que le co-développement itératif avec les médecins généralistes et les tests d’utilisabilité étaient essentiels pour identifier les obstacles à la mise en œuvre qui n’auraient pas été visibles dans une étude de validation contrôlée. La performance technique et l’utilisabilité clinique sont des dimensions liées mais distinctes de la validation.

Une revue exploratoire des systèmes d’aide à la décision clinique en matière de prescription en soins primaires publiée début 2025 cartographie les lacunes de preuves dans ce domaine. Elle constate que les données d’impact de mise en œuvre pour les outils de prescription en soins primaires restent limitées et que les conceptions d’études varient considérablement en rigueur, rendant difficile la comparaison directe des revendications de validation des fournisseurs.

Le rôle des preuves en conditions réelles après le déploiement

La validation pré-déploiement établit une base de performance dans des conditions contrôlées ou semi-contrôlées. Elle ne peut pas anticiper chaque scénario clinique, changement de population ou modification de directive qui surviendra une fois qu’un outil est en usage actif. C’est pourquoi le suivi clinique post-commercialisation (PMCF, un processus obligatoire de collecte et d’examen systématiques des preuves de performance d’un dispositif après son déploiement) est une obligation en vertu du RDM UE pour les logiciels de dispositifs médicaux.

Le PMCF exige des fabricants qu’ils collectent et examinent systématiquement les preuves en conditions réelles de la performance du dispositif après le déploiement. Pour les outils d’aide à la décision clinique, cela signifie :

• Surveillance continue de la précision des recommandations et des taux d’alerte en usage clinique réel

• Surveillance des signaux de sécurité émergents, y compris les modèles de contournement ou de non-utilisation par les cliniciens qui peuvent indiquer des erreurs systématiques

• Réévaluation périodique de la performance à mesure que les populations de patients changent ou que les directives cliniques sont mises à jour

• Documentation des résultats et, si nécessaire, action corrective

Les exigences de la loi sur l’IA de l’UE en matière d’évaluation continue des risques post-commercialisation renforcent et étendent ces obligations pour les outils classés IA, exigeant une surveillance des incidents et un alignement avec l’infrastructure européenne émergente de données de santé.

Les décideurs en santé devraient demander aux fournisseurs non seulement quelle validation pré-déploiement a été menée, mais aussi quelle infrastructure de suivi clinique post-commercialisation est en place et comment les résultats sont communiqués aux organisations déployantes. Un fournisseur sans plan de surveillance post-déploiement clair représente un risque de gouvernance ainsi qu’un risque clinique.

La collecte de preuves en conditions réelles en soins primaires est structurellement difficile. Un volume élevé de patients, une qualité de données variable dans les systèmes de dossiers médicaux et l’absence de mesure standardisée des résultats rendent difficile la détection d’une dégradation subtile de la performance dans les systèmes d’aide à la décision clinique déployés. Cela ne réduit pas l’obligation de collecter de telles preuves. Cela signifie que la qualité des plans de suivi clinique post-commercialisation varie considérablement et devrait être examinée en conséquence.

Exigences en matière de données : RGPD, hébergement des données et transparence des données d’entraînement

La qualité d’un outil d’aide à la décision clinique est indissociable de la qualité, de la provenance et de la représentativité des données sur lesquelles il a été entraîné et testé. Pour les décideurs en santé européens, trois questions liées aux données sont particulièrement importantes.

Conformité au Règlement général sur la protection des données et utilisation légale des données : Les données d’entraînement pour l’IA clinique doivent avoir été obtenues légalement. En vertu du Règlement général sur la protection des données (RGPD), cela nécessite généralement soit le consentement explicite du patient, soit une base juridique légitime pour le traitement des données de santé, soit l’utilisation de données qui ont été correctement anonymisées. Les fournisseurs devraient être en mesure de démontrer, et non simplement d’affirmer, que leurs données d’entraînement ont été obtenues conformément à la législation applicable sur la protection des données.

Le cadre de la Commission européenne pour l’IA dans les soins de santé positionne l’Espace européen des données de santé (EHDS, une infrastructure réglementaire et technique pour l’échange sécurisé de données de santé à travers les États membres de l’UE), avec le règlement EHDS entrant en vigueur en 2025 et une mise en œuvre progressive dans les États membres au cours des années suivantes, comme le mécanisme principal pour l’utilisation légale des données de santé pour l’entraînement et l’évaluation de l’IA dans les États membres.

Hébergement des données au sein de l’UE : L’endroit où les données des patients sont traitées pendant l’inférence, c’est-à-dire lorsque l’outil analyse les données d’un patient réel pour générer une recommandation, importe pour la conformité au RGPD. Les données traitées en dehors de l’UE ou de l’Espace économique européen sont soumises à des restrictions de transfert à moins que des garanties adéquates ne soient en place. Les décideurs en santé devraient confirmer que l’infrastructure de traitement d’un fournisseur répond aux exigences d’hébergement des données au sein de l’UE.

Représentativité des données d’entraînement et biais : Un outil entraîné principalement sur des données d’un groupe démographique, d’un système de santé ou d’un contexte de prévalence de maladie peut fonctionner différemment, et de manière moins sûre, lorsqu’il est appliqué à une population différente. Les directives de double conformité pour les dispositifs médicaux IA en vertu du RDM UE et de la loi sur l’IA exigent désormais des fabricants qu’ils documentent la surveillance des biais et démontrent que les données d’entraînement étaient représentatives de la population d’utilisation prévue. Les décideurs devraient demander aux fournisseurs de fournir cette documentation plutôt que d’accepter des assurances générales.

Ce qu’il faut demander à un fournisseur avant d’adopter un outil d’aide à la décision clinique

Les questions suivantes fournissent un cadre d’évaluation pratique pour les médecins généralistes, les gestionnaires de cabinet et les responsables cliniques évaluant un outil d’aide à la décision clinique avant adoption. Elles couvrent les dimensions les plus susceptibles de révéler des écarts entre les revendications d’un fournisseur et la rigueur de leur base de preuves.

Statut réglementaire :

• Cet outil est-il classé comme dispositif médical en vertu du RDM UE 2017/745 ? Si oui, quelle est sa classification (Classe I, IIa, IIb ou III) ?

• Porte-t-il le marquage CE, et pouvez-vous fournir la Déclaration de conformité ?

• A-t-il été évalué selon la classification à haut risque de la loi sur l’IA de l’UE ? Si oui, quelle évaluation de conformité a été complétée ?

Preuves cliniques :

• Quelles études de validation clinique ont été menées, et sont-elles publiées dans des revues évaluées par les pairs ?

• Les études de validation ont-elles été menées dans des contextes de soins primaires européens ou dans d’autres contextes de soins ?

• Quelles étaient les caractéristiques de la population de validation, y compris l’âge, le profil de comorbidité, l’ethnicité et le système de santé ?

Performance et transparence :

• Quelles mesures de performance sont rapportées (sensibilité, spécificité, valeur prédictive positive, taux d’alerte) ?

• L’outil peut-il expliquer ses recommandations en des termes qu’un clinicien peut évaluer ? La logique du modèle est-elle transparente ou opaque ?

• Comment l’outil fonctionne-t-il dans les sous-groupes démographiques ?

Post-déploiement :

• Quel plan de suivi clinique post-commercialisation est en place, et comment les résultats sont-ils rapportés aux organisations déployantes ?

• Comment les mises à jour du modèle sont-elles gérées, et une revalidation a-t-elle lieu avant le déploiement des mises à jour ?

Données et intégration :

• Où les données des patients sont-elles traitées, et cela répond-il aux exigences d’hébergement des données au sein de l’UE ?

• L’outil peut-il s’intégrer à notre système de dossiers médicaux existant sans nécessiter une saisie de données supplémentaire importante ?

• Quelle est la certification de sécurité de l’information du fournisseur (par exemple, ISO 27001) ?

Signaux d’alarme : quand les revendications de validation d’un fournisseur devraient être examinées de près

Certaines revendications de validation sont techniquement exactes mais pratiquement trompeuses. Les situations suivantes devraient inciter à un examen plus approfondi de la part des décideurs en santé.

Validation menée exclusivement en dehors de l’Europe. Un outil validé aux États-Unis, en Australie ou dans un autre système de santé non européen peut avoir été testé sur des populations avec une prévalence de maladie, des parcours de soins et des pratiques de codage clinique différents. Cela ne disqualifie pas automatiquement les preuves, mais cela exige du fournisseur qu’il démontre pourquoi les résultats sont transférables. Les preuves de la mise en œuvre de systèmes d’aide à la décision clinique pour l’asthme dans les contextes de soins primaires européens montrent que les résultats varient même au sein de l’Europe, faisant de la validation non européenne une limitation significative.

Validation sur des populations de soins secondaires ou spécialisés uniquement. Les patients hospitalisés et les patients orientés vers des spécialistes ne sont pas représentatifs de la population non différenciée se présentant en médecine générale. Un outil validé exclusivement dans ces contextes n’a pas été testé sur les patients pour lesquels un médecin généraliste l’utilisera réellement.

Absence d’examen indépendant par les pairs. Les rapports de validation internes produits par le fabricant ne sont pas équivalents à une publication évaluée par les pairs ou à un audit indépendant. Si un fournisseur ne peut pas pointer vers des preuves examinées de manière externe, la base de validation devrait être traitée comme préliminaire.

Logique de modèle opaque. Si un fournisseur ne peut pas ou ne veut pas expliquer comment l’outil parvient à ses recommandations, les cliniciens ne peuvent pas évaluer de manière significative si une recommandation est appropriée pour un patient spécifique. L’IA explicable est identifiée dans la littérature sur la conception de systèmes d’aide à la décision clinique comme un prérequis pour la confiance des cliniciens et une adoption sûre, non pas une caractéristique souhaitable mais une exigence fonctionnelle.

Pas de plan clair de suivi clinique post-commercialisation. Un fournisseur qui ne peut pas décrire comment il surveillera la performance en conditions réelles après le déploiement n’a pas rempli ses obligations de preuves cliniques en vertu du RDM UE. C’est une lacune réglementaire ainsi qu’un risque clinique.

Revendications de conformité à la loi sur l’IA sans détails. Les exigences d’évaluation de conformité de la loi sur l’IA pour les systèmes à haut risque incluent la surveillance des biais, la documentation de transparence et les mécanismes de surveillance humaine. Une revendication générale de conformité sans documentation à l’appui devrait être traitée comme non vérifiée.

La couche d’approvisionnement et de gouvernance : qui d’autre doit être impliqué

L’adoption d’un outil d’aide à la décision clinique n’est pas une décision qui peut ou devrait reposer sur un seul médecin généraliste ou gestionnaire de cabinet. Elle implique des dimensions cliniques, juridiques, de gouvernance de l’information et de risque organisationnel qui nécessitent l’apport de multiples rôles.

La recherche sur la mise en œuvre de systèmes d’aide à la décision clinique en soins primaires néerlandais identifie l’implication multipartite comme l’un des deux mécanismes centraux qui soutiennent un déploiement réussi, aux côtés du co-développement itératif. L’étude a constaté que l’implication de parties prenantes multiniveaux, innovantes et influentes dès le départ, et le maintien de l’alignement par un acteur orchestrateur, étaient des prérequis pratiques pour une mise en œuvre durable. Les décisions prises sans cette ampleur d’apport tendaient à faire émerger des problèmes plus tard, à un coût plus élevé.

Dans les systèmes de santé européens, les rôles de gouvernance généralement impliqués dans l’approvisionnement de systèmes d’aide à la décision clinique incluent :

• Responsables de la sécurité clinique : Responsables de l’évaluation du risque clinique et de s’assurer que le déploiement d’un outil n’introduit pas de dangers pour la sécurité des patients. En Angleterre, cette fonction est formalisée dans le cadre de la norme de gestion des risques cliniques DCB0160. Des cadres équivalents existent dans les États membres de l’UE.

• Responsables de la gouvernance de l’information : Responsables de l’évaluation de la conformité au RGPD, des accords de traitement des données et de l’hébergement des données. Les accords de traitement des données des fournisseurs devraient être examinés par cette fonction avant que toute donnée de patient ne soit partagée avec un outil.

• Organismes de mise en service et acheteurs de systèmes de santé : Dans les systèmes de santé européens financés par des fonds publics, l’approvisionnement de logiciels cliniques implique généralement des processus d’appel d’offres formels, des panels d’évaluation clinique et des évaluations d’impact budgétaire. Les preuves de validation devraient être soumises dans le cadre de ces processus.

• Équipes d’informatique clinique et de systèmes de dossiers médicaux : L’intégration avec les systèmes de dossiers médicaux existants est une question de gouvernance technique et clinique. Un outil qui ne peut pas accéder de manière fiable aux données dont il a besoin, ou qui introduit de nouvelles charges de saisie de données, ne fonctionnera pas comme validé.

Le cadre d’évaluation pré-déploiement proposé dans le modèle RISED pour les systèmes d’aide à la décision IA à enjeux élevés dans les soins de santé recommande de traiter l’évaluation de conformité, l’examen de transparence et la conception de la surveillance humaine comme des composantes intégrées d’un processus pré-déploiement unique. Pour les décideurs en santé, cela signifie construire un processus d’évaluation interfonctionnel avant qu’une décision d’approvisionnement ne soit prise.

Les preuves de validation, dans ce contexte, ne sont pas un document à classer. Elles sont le fondement sur lequel reposent la gouvernance clinique, la sécurité des patients et la responsabilité organisationnelle.

Questions fréquemment posées

Quelle est la différence entre les tests logiciels et la validation clinique pour un outil d’aide à la décision clinique ?

Les tests logiciels confirment qu’un système se comporte comme ses développeurs l’ont prévu. La validation clinique demande si ce comportement prévu produit des résultats sûrs et efficaces pour de vrais patients dans un environnement clinique réel. Un outil peut être techniquement correct et cliniquement dangereux en même temps. Par exemple, un algorithme qui calcule avec précision un score de risque dérivé de données hospitalières nord-américaines peut systématiquement sous-estimer ou surestimer le risque dans une population de soins primaires européenne présentant des caractéristiques démographiques et un comportement de recours aux soins différents.

Quand un outil d’aide à la décision clinique est-il qualifié de dispositif médical selon les réglementations de l’UE ?

En vertu du Règlement européen sur les dispositifs médicaux (RDM UE) 2017/745, un outil logiciel qui analyse des données spécifiques à un patient pour générer des recommandations de diagnostic, de traitement, de stratification des risques ou de prescription est susceptible de répondre à la définition d’un dispositif médical. Une fois classé comme tel, il doit porter le marquage CE, ce qui exige du fabricant qu’il démontre des preuves cliniques de sécurité et de performance avant de mettre l’outil sur le marché européen. À partir de 2026, les dispositifs médicaux dotés d’IA font également face à une double conformité au titre du RDM UE et de la loi sur l’IA de l’UE.

Le marquage CE garantit-il qu’un outil d’aide à la décision clinique est sûr à utiliser dans mon cabinet ?

Non. Le marquage CE est une déclaration du fabricant selon laquelle le dispositif répond aux exigences réglementaires applicables. C’est une condition nécessaire pour un déploiement légal en Europe, mais pas une condition suffisante pour une adoption clinique dans un contexte particulier. Une analyse évaluée par les pairs publiée dans npj Health Systems identifie des lacunes importantes dans les normes actuelles du RDM UE pour les systèmes d’IA adaptatifs et basés sur les données, ce qui signifie que certains outils peuvent atteindre la conformité réglementaire tout en manquant encore la validation clinique rigoureuse qu’exige le déploiement en soins primaires.

Pourquoi la validation d’un outil d’aide à la décision clinique pour la médecine générale est-elle particulièrement difficile ?

La médecine générale présente des conditions qui diffèrent structurellement des contextes hospitaliers et spécialisés où de nombreux outils sont d’abord développés. Les médecins généralistes rencontrent des patients avant qu’un diagnostic n’ait été établi, donc un outil validé sur des diagnostics codés issus de dossiers de soins secondaires peut mal fonctionner face aux situations ambiguës, au niveau des symptômes, qui se présentent dans un cabinet de médecine générale. Les populations de soins primaires sont également plus diverses en âge, multimorbidité et contexte socioéconomique que les cohortes hospitalières, ce qui affecte les taux de base dont dépendent les algorithmes prédictifs.

Que signifie le suivi clinique post-commercialisation pour les outils d’aide à la décision clinique, et pourquoi est-ce important ?

Le suivi clinique post-commercialisation (PMCF) est une obligation en vertu du RDM UE pour les logiciels de dispositifs médicaux. Il exige des fabricants qu’ils collectent et examinent systématiquement les preuves en conditions réelles de la performance du dispositif après le déploiement. Pour les outils d’aide à la décision clinique, cela inclut la surveillance continue de la précision des recommandations et des taux d’alerte, la surveillance des modèles de contournement par les cliniciens qui peuvent indiquer des erreurs systématiques, et la réévaluation périodique à mesure que les populations de patients changent ou que les directives cliniques sont mises à jour. Un fournisseur sans plan de surveillance post-déploiement clair représente un risque de gouvernance ainsi qu’un risque clinique.

Quelles questions liées aux données les décideurs en santé devraient-ils poser avant d’adopter un outil d’aide à la décision clinique ?

Trois questions sont particulièrement importantes. Premièrement, les données d’entraînement ont-elles été obtenues légalement en vertu du Règlement général sur la protection des données (RGPD), ce qui nécessite soit le consentement explicite du patient, soit une base juridique légitime, soit une anonymisation appropriée ? Deuxièmement, où les données des patients sont-elles traitées pendant l’inférence, et cela répond-il aux exigences d’hébergement des données au sein de l’UE ? Troisièmement, le fournisseur fournit-il une documentation montrant que les données d’entraînement étaient représentatives de la population d’utilisation prévue, et qu’une surveillance des biais est en place ? Les assurances générales de conformité au RGPD ne sont pas un substitut à des réponses spécifiques à chacune de ces questions.

Quels sont les signaux d’alarme qui devraient inciter à un examen plus approfondi des revendications de validation d’un fournisseur ?

Plusieurs situations devraient inciter à un examen plus approfondi. La validation menée exclusivement en dehors de l’Europe peut ne pas se transférer aux populations de soins primaires européennes. La validation sur des populations de soins secondaires ou spécialisés uniquement signifie que l’outil n’a pas été testé sur les patients non différenciés pour lesquels un médecin généraliste l’utilisera réellement. Une absence d’examen indépendant par les pairs signifie que la base de preuves devrait être traitée comme préliminaire. Une logique de modèle opaque empêche les cliniciens d’évaluer si une recommandation est appropriée pour un patient spécifique. Et un fournisseur qui ne peut pas décrire son plan de suivi clinique post-commercialisation n’a pas rempli ses obligations de preuves cliniques en vertu du RDM UE.

Qui devrait être impliqué dans la décision d’adopter un outil d’aide à la décision clinique ?

L’adoption d’un outil d’aide à la décision clinique n’est pas une décision qui peut reposer sur un seul médecin généraliste ou gestionnaire de cabinet. Elle implique des dimensions cliniques, juridiques, de gouvernance de l’information et de risque organisationnel. Les rôles de gouvernance généralement impliqués incluent les responsables de la sécurité clinique, les responsables de la gouvernance de l’information, les organismes de mise en service et les équipes d’informatique clinique responsables de l’intégration du système de dossiers médicaux. La recherche sur la mise en œuvre de systèmes d’aide à la décision clinique en soins primaires néerlandais identifie l’implication multipartite comme l’un des deux mécanismes centraux qui soutiennent un déploiement réussi, aux côtés du co-développement itératif.

Quelles preuves cliniques un fournisseur devrait-il pouvoir fournir avant qu’un outil ne soit adopté ?

Les fournisseurs devraient être en mesure de fournir une publication évaluée par les pairs d’études de validation clinique, des détails sur la population de validation incluant l’âge, le profil de comorbidité, l’ethnicité et le système de santé, et des mesures de performance telles que la sensibilité, la spécificité et la valeur prédictive positive. Les études menées dans des contextes de soins primaires européens ont plus de poids que celles menées dans d’autres contextes de soins. Les rapports de validation internes produits par le fabricant ne sont pas équivalents à des preuves examinées de manière indépendante, et devraient être traités comme préliminaires si aucun examen externe n’est disponible.

Comment la loi sur l’IA de l’UE modifie-t-elle les exigences de conformité pour les outils d’aide à la décision clinique ?

La loi sur l’IA de l’UE classe automatiquement les systèmes d’aide à la décision clinique basés sur l’IA comme à haut risque. Cela déclenche une évaluation de conformité obligatoire, une surveillance des biais, des obligations de transparence et des exigences de surveillance humaine qui vont au-delà de ce que le RDM UE exigeait seul. À partir de 2026, les fabricants de dispositifs médicaux dotés d’IA font face à une double conformité au titre du RDM UE et de la loi sur l’IA. Une revendication générale de conformité à la loi sur l’IA sans documentation à l’appui devrait être traitée comme non vérifiée, étant donné que les exigences d’évaluation de conformité incluent la surveillance des biais, la documentation de transparence et les mécanismes de surveillance humaine.