·

·

13

min de lecture

Contrats d'outils IA : ce que les gestionnaires de cabinets de médecins généralistes doivent vérifier en premier

Vérifications essentielles pour les gestionnaires de cabinets de médecins généralistes avant de signer des contrats d'outils IA : statut réglementaire, responsabilité, sécurité des données, intégration et preuves cliniques

Gestionnaire sanitaire examinant les documents de contrat logiciel IA

Signer un contrat pour un outil d'IA, c'est le début des obligations du cabinet, pas leur fin. Une fois l'outil déployé, la responsabilité clinique, juridique et réglementaire repose entièrement sur le cabinet. Ce guide présente les vérifications à effectuer avant toute signature.

L'outil est-il classé comme dispositif médical, et qu'est-ce que cela change pour vous ?

Tous les outils d'IA utilisés en milieu clinique ne sont pas des dispositifs médicaux, mais beaucoup le sont. Au Royaume-Uni, la Medicines and Healthcare products Regulatory Agency (MHRA) classe certains logiciels comme dispositifs médicaux. Si un outil contribue au diagnostic clinique, aux décisions de tri ou aux recommandations de traitement, il relève probablement de la définition de logiciel en tant que dispositif médical (Software as a Medical Device). Dans ce cas, il devra obtenir un marquage UKCA ou CE en vertu du Règlement sur les dispositifs médicaux (RDM UE).

Avant de signer, les gestionnaires de cabinets devraient consulter la base de données MHRA Product and Registration Database (PARD) pour confirmer le statut d'enregistrement de l'outil, demander au fournisseur sa classe de dispositif, vérifier l'existence d'une évaluation du National Institute for Health and Care Excellence (NICE) sous forme de Medical Innovation Brief (MIB), Diagnostic Guidance (DG) ou Early Value Assessment (EVA), et confirmer la validité du marquage UKCA ou CE le cas échéant.

Le GP Mythbuster 109 de la Care Quality Commission (CQC) sur l'IA, publié en juillet 2025, précise que les inspecteurs vérifieront si les cabinets ont confirmé l'enregistrement MHRA et si l'approvisionnement a été effectué conformément aux normes DCB0160 et Digital Technology Assessment Criteria (DTAC). Les outils non classés comme dispositifs médicaux comportent toujours des obligations en matière de protection des données, de sécurité clinique et de gouvernance.

Qui porte la responsabilité clinique et juridique en cas de problème ?

C'est l'une des questions les plus importantes dans tout contrat d'outil d'IA, et les accords avec les fournisseurs la laissent fréquemment dans le flou. Dans les soins primaires du NHS, les organisations du NHS peuvent toujours être tenues responsables des réclamations liées à l'IA, même lorsqu'elles utilisent des outils tiers. Les fournisseurs limitent généralement leur responsabilité au fonctionnement du logiciel tel que décrit dans le contrat. Ils n'assument pas la responsabilité des décisions cliniques prises sur la base des résultats de l'IA. Si une note médicale générée par IA contient une erreur qui influence les soins aux patients, c'est le cabinet qui en assume les conséquences.

Lors de l'examen des conditions contractuelles, les gestionnaires devraient chercher des formulations claires sur l'attribution de la responsabilité clinique, vérifier si les clauses d'indemnisation couvrent les incidents cliniques ou se limitent aux défaillances logicielles, et confirmer si leur organisation de défense médicale a été consultée. Surrey & Sussex LMCs conseillent également de contacter l'Integrated Care Board pour obtenir des garanties. L'exigence de vérification humaine, à savoir qu'un clinicien doit examiner tous les résultats générés par l'IA avant qu'ils n'entrent dans le dossier patient, constitue une condition de déploiement sûr selon les directives actuelles du NHS.

Où les données des patients sont-elles traitées, et que se passe-t-il à la fin du contrat ?

En vertu du Règlement général sur la protection des données (RGPD) du Royaume-Uni et du devoir de confidentialité de common law, les données des patients sont des données de catégorie spéciale. Leur traitement doit être licite, transparent et proportionné. Si les données sont transférées en dehors du Royaume-Uni ou de l'UE, des garanties supplémentaires s'imposent. Les directives du NHS England sur les produits de scribe médical IA confirment qu'une analyse d'impact relative à la protection des données constitue très probablement une exigence légale avant le déploiement.

Avant de signer, les gestionnaires devraient clarifier où les données sont traitées et stockées (Royaume-Uni, UE ou pays tiers), qui sont les sous-traitants du fournisseur, si le fournisseur utilise les données de consultation pour entraîner ses modèles et sur quelle base juridique, et si un accord de traitement des données conforme à l'article 28 du RGPD du Royaume-Uni est inclus dans le contrat. Le commentaire juridique de Spencer West LLP souligne que les données pseudonymisées conservent un risque résiduel de réidentification et ne peuvent pas être considérées comme hors du champ d'application de la législation sur la protection des données, contrairement aux données véritablement anonymisées. C'est un point que les cabinets sous-estiment souvent lors de l'évaluation des contrats.

La portabilité et la suppression des données à la fin du contrat sont des points sur lesquels les contrats des fournisseurs restent fréquemment vagues. Les cabinets devraient confirmer combien de temps le fournisseur conserve les données après la fin du contrat, si une exportation complète est possible, et ce que couvre réellement la « suppression sur demande », sauvegardes et données des sous-traitants comprises. Les conditions autorisant les fournisseurs à conserver les données à des fins « d'amélioration du produit » ou « d'entraînement du modèle » après la fin du contrat devraient être signalées pour examen juridique. En tant que responsable du traitement des données, le cabinet doit être en mesure de garantir l'exercice des droits des patients, y compris le droit à l'effacement, même après la fin de la relation avec le fournisseur.

Quelles certifications de sécurité le fournisseur doit-il détenir ?

Les certifications renseignent sur le niveau de maturité d'un fournisseur, même si elles ne garantissent pas la sécurité à elles seules. Pour les outils d'IA cliniques utilisés dans les soins primaires du NHS, les cabinets devraient s'attendre à ce que les fournisseurs détiennent, ou travaillent activement à obtenir, les quatre éléments suivants : ISO 27001, la norme internationale pour les systèmes de gestion de la sécurité de l'information ; la conformité au NHS Data Security and Protection (DSP) Toolkit, qui est une exigence contractuelle pour les organisations accédant aux données des patients du NHS ; Cyber Essentials ou Cyber Essentials Plus, la certification de cybersécurité de base du gouvernement britannique ; et la conformité DTAC, le cadre du NHS England couvrant la protection des données, la sécurité technique, l'interopérabilité et la sécurité clinique.

De ces quatre exigences, la conformité au DSP Toolkit est la plus directement opposable. Un fournisseur qui ne peut pas produire une soumission récente, quelle que soit la qualité de sa démonstration de produit, n'est pas en position de déployer dans les soins primaires. Les directives du NHS England signalent également des risques de cybersécurité propres aux grands modèles de langage, notamment les attaques par injection de prompt, c'est-à-dire des instructions malveillantes insérées dans les données traitées par le modèle, et la fuite de données via les résultats du modèle.

L'outil s'intègre-t-il vraiment à votre système de dossiers médicaux ?

La plupart des cabinets de médecins généralistes en Angleterre utilisent soit EMIS Web, soit SystmOne. La valeur pratique d'un assistant médical IA dépend largement de la qualité de son intégration avec le système de dossiers médicaux existant du cabinet. Une intégration qui oblige le clinicien à copier-coller manuellement le contenu généré par l'IA augmente considérablement le risque d'erreurs de transcription, fait disparaître une grande partie du gain d'efficacité, et peut créer des lacunes dans le dossier patient avec des conséquences directes pour la sécurité des patients.

Avant de signer, les gestionnaires devraient vérifier si l'outil dispose d'une intégration native et certifiée avec EMIS Web ou SystmOne plutôt qu'une solution de contournement, qui est responsable du maintien de cette intégration lors des mises à jour du système, si l'intégration a été testée dans un cabinet de médecin généraliste en conditions réelles, et quel est le processus de secours si elle tombe en panne pendant une consultation.

L'outil a-t-il été entraîné et évalué dans un contexte de soins primaires britanniques ?

Les données d'entraînement ont une incidence directe sur la précision clinique. Un outil entraîné principalement sur des données américaines peut mal fonctionner sur le codage médical spécifique au NHS utilisant SNOMED CT, les noms de médicaments et conventions de dosage britanniques, les parcours d'adressage, ou le style de documentation propre aux consultations de médecins généralistes. L'écart entre une démonstration convaincante et une performance réelle dans un cabinet britannique peut être considérable. Laranjo et al. dans le Lancet Primary Care ont noté que le déploiement rapide de l'IA avant une évaluation rigoureuse soulève des inquiétudes quant aux effets imprévus sur la qualité des soins, et les preuves issues des soins secondaires ou de contextes internationaux ne se transposent pas directement à la pratique générale britannique.

Les gestionnaires de cabinets devraient demander aux fournisseurs des études publiées et évaluées par des pairs, ou des résultats de pilotes documentés issus d'environnements de soins primaires britanniques, des études de cas avec des résultats mesurables tels que le temps de documentation, la précision clinique ou la satisfaction des cliniciens, ainsi qu'une fiche de modèle décrivant les sources de données d'entraînement, les limitations connues et les références de performance. Les retours de cliniciens sur l'IA dans les soins primaires soulèvent régulièrement des préoccupations concernant les biais introduits par les données d'entraînement, ce qui fait de la transparence sur l'origine des données un critère d'évaluation à part entière.

Qui supervise l'outil au sein du cabinet, et comment ?

La gouvernance des outils d'IA est une responsabilité opérationnelle continue. Le GP Mythbuster 109 de la CQC définit ce que les inspecteurs rechercheront : la nomination d'un responsable de la sécurité clinique (Clinical Safety Officer, CSO), le maintien d'une évaluation des risques et d'un registre des dangers, et la preuve que la supervision humaine des résultats de l'IA est intégrée dans les flux de travail du cabinet. Il s'agit d'une obligation réglementaire.

Le cabinet devrait tenir à jour les documents de gouvernance suivants : un dossier de sécurité clinique DCB0160 complété ; une évaluation des risques et un registre des dangers régulièrement mis à jour ; des registres de formation des cliniciens sur l'outil ; un journal de tous les incidents ou quasi-accidents impliquant des résultats générés par l'IA ; et la preuve qu'un clinicien a examiné tout contenu généré par l'IA avant qu'il n'entre dans le dossier patient. Ces documents constituent le socle de preuves qui protège le cabinet si un incident clinique survient.

Le support du fournisseur est-il adapté à un contexte clinique ?

Pour les outils d'IA cliniques, les conséquences d'une défaillance du support sont plus graves que pour la plupart des logiciels. Si un assistant médical IA tombe en panne en pleine consultation, ou si une note générée par l'IA contient une erreur systématique qui n'est pas détectée rapidement, le cabinet doit pouvoir compter sur une réponse rapide du fournisseur avec une vraie compréhension du contexte clinique. L'accord de niveau de service (Service Level Agreement, SLA) devrait distinguer les délais de réponse entre les incidents de sécurité clinique et les problèmes techniques courants, et le fournisseur devrait disposer d'un interlocuteur dédié pour les cabinets de médecins généralistes plutôt que d'un service d'assistance générique.

Les directives du NHS England exigent que les arrangements contractuels définissent clairement les rôles, les responsabilités et la procédure de réponse aux incidents. Un fournisseur qui ne peut pas présenter un processus documenté de gestion des incidents de sécurité clinique conforme aux normes du NHS n'est pas prêt pour un déploiement dans les soins primaires.

Liste de vérification pré-signature pour les gestionnaires de cabinets

Réglementation et sécurité clinique

  • [ ] Statut d'enregistrement MHRA et classe de dispositif confirmés (vérifier PARD le cas échéant)

  • [ ] Le fournisseur détient la documentation du dossier de sécurité clinique DCB0129

  • [ ] Le cabinet a complété ou commencé le dossier de sécurité clinique DCB0160 pour le déploiement

  • [ ] Évaluation DTAC complétée et réussie par le fournisseur

  • [ ] Évaluation NICE vérifiée (MIB, DG ou EVA) le cas échéant

Protection des données et gouvernance de l'information

  • [ ] DPIA complétée avant le déploiement

  • [ ] Accord de traitement des données inclus dans le contrat, conforme à l'article 28 du RGPD du Royaume-Uni

  • [ ] Hébergement des données confirmé (traitement et stockage au Royaume-Uni ou dans l'UE)

  • [ ] Sous-traitants identifiés et évalués

  • [ ] Politique du fournisseur sur l'utilisation des données des patients pour l'entraînement de modèles examinée et acceptée

  • [ ] Conditions de suppression et de portabilité des données confirmées à la fin du contrat

Sécurité

  • [ ] Certification ISO 27001 confirmée

  • [ ] Conformité au NHS DSP Toolkit confirmée

  • [ ] Cyber Essentials ou Cyber Essentials Plus confirmé

  • [ ] Section cybersécurité DTAC réussie

Responsabilité et contrat

  • [ ] Attribution de responsabilité clairement définie dans le contrat

  • [ ] Clauses d'indemnisation examinées (portée confirmée)

  • [ ] Organisation de défense médicale ou fournisseur d'indemnisation consulté

  • [ ] Rôles, responsabilités et réponse aux incidents définis dans le contrat

Intégration du système de dossiers médicaux

  • [ ] Intégration native avec EMIS Web ou SystmOne confirmée

  • [ ] Responsabilité de maintenance de l'intégration définie

  • [ ] Testé dans un cabinet de médecin généraliste britannique en conditions réelles

Gouvernance

  • [ ] Responsable de la sécurité clinique nommé au niveau du cabinet

  • [ ] Évaluation des risques et registre des dangers initiés

  • [ ] Plan de formation des cliniciens en place

  • [ ] Examen humain de tous les résultats de l'IA confirmé comme exigence du flux de travail

Preuves et support

  • [ ] Preuves cliniques provenant de contextes de soins primaires britanniques examinées

  • [ ] SLA examiné (délais de réponse aux incidents de sécurité clinique confirmés)

  • [ ] Contact dédié du fournisseur pour les cabinets de médecins généralistes confirmé

  • [ ] Origine des données d'entraînement documentée par le fournisseur

Questions fréquemment posées

▶ Un outil d'IA utilisé dans un cabinet de médecin généraliste doit-il être enregistré comme dispositif médical ?

Pas systématiquement. Un outil de prise de notes pure, sans rôle dans le diagnostic ou le tri, peut échapper à la classification. Le critère déterminant est la finalité revendiquée par le fournisseur dans sa documentation officielle. Si cette finalité inclut une aide à la décision clinique, l'enregistrement MHRA s'impose, et le cabinet doit le vérifier avant toute négociation tarifaire.

▶ Qui est responsable si une note médicale générée par l'IA contient une erreur qui affecte les soins aux patients ?

Le cabinet assume la responsabilité clinique. Avant de signer, demandez à votre organisation de défense médicale de confirmer par écrit que votre couverture s'étend aux incidents impliquant des résultats générés par IA. Cette confirmation écrite est plus utile qu'une simple consultation verbale, et peu de cabinets pensent à l'exiger.

▶ Où les données des patients doivent-elles être traitées et stockées lors de l'utilisation d'un outil d'IA clinique ?

Le lieu de traitement conditionne les garanties juridiques applicables. Un hébergement au Royaume-Uni ou dans l'UE simplifie la conformité. Si le fournisseur fait appel à des sous-traitants situés dans des pays tiers, demandez quelles clauses contractuelles types encadrent ces transferts, car cette information est rarement mise en avant spontanément.

▶ Quelles certifications de sécurité un fournisseur d'IA clinique devrait-il détenir ?

Demandez la soumission la plus récente au NHS DSP Toolkit, avec sa date. Une soumission expirée ou incomplète signale un problème de maturité opérationnelle, indépendamment de la qualité du produit. ISO 27001 et Cyber Essentials complètent ce tableau, mais c'est le DSP Toolkit qui est directement opposable dans un contexte NHS.

▶ Qu'advient-il des données des patients si un cabinet met fin à son contrat avec un fournisseur d'IA ?

Vérifiez si la « suppression sur demande » couvre explicitement les sauvegardes et les données détenues par les sous-traitants. Certains contrats excluent ces copies sans le préciser clairement. Exigez une définition écrite du périmètre de suppression avant la signature, car cette précision est rarement incluse dans les modèles contractuels standard des fournisseurs.

▶ Est-il important qu'un outil d'IA ait été entraîné sur des données du NHS ou de soins primaires britanniques ?

Oui. Demandez si le fournisseur publie une fiche de modèle indiquant les sources de données d'entraînement et les limitations connues. Un fournisseur qui refuse de communiquer cette information, ou qui ne dispose pas de ce document, ne peut pas démontrer que son outil est adapté à un contexte de soins primaires britanniques.

▶ Qui dans le cabinet est responsable de la supervision d'un outil d'IA une fois déployé ?

Un responsable de la sécurité clinique doit être nommé formellement, avec son nom consigné dans le dossier de sécurité clinique DCB0160. Cette nomination ne peut pas rester informelle. En cas d'inspection CQC, l'absence de désignation documentée expose le cabinet à un constat de non-conformité réglementaire.

▶ Comment un cabinet devrait-il évaluer si un outil d'IA s'intègre correctement à son système de dossiers médicaux ?

Demandez une démonstration dans un cabinet de médecin généraliste britannique réel, avec le système de dossiers médicaux du cabinet, pas dans un environnement de démonstration isolé. Clarifiez aussi qui prend en charge les corrections d'intégration si EMIS Web ou SystmOne publie une mise à jour qui rompt la connexion en cours de contrat.

▶ Quelles preuves cliniques un fournisseur devrait-il pouvoir fournir avant qu'un cabinet ne signe un contrat ?

Privilégiez les résultats de pilotes issus de cabinets de médecins généralistes britanniques avec des indicateurs mesurables. Si le fournisseur ne cite que des études menées en soins secondaires ou à l'étranger, demandez-lui d'expliquer pourquoi ces résultats s'appliquent à votre contexte. L'absence de réponse précise est elle-même une information utile.

▶ Que devrait rechercher un cabinet dans les arrangements de support et de réponse aux incidents d'un fournisseur ?

Vérifiez si l'accord de niveau de service fixe des délais distincts pour les incidents de sécurité clinique et les incidents techniques courants. Un délai unique pour tous les types d'incidents indique que le fournisseur n'a pas conçu son support pour un contexte clinique. Demandez aussi le nom du contact dédié aux cabinets de médecins généralistes avant de signer.

Commencez avec Tandem dès aujourd’hui

Rejoignez les milliers de soignants pour qui nous automatisons les tâches administratives

Commencez avec Tandem dès aujourd’hui

Rejoignez les milliers de soignants pour qui nous automatisons les tâches administratives

Commencez avec Tandem dès aujourd’hui

Rejoignez les milliers de soignants pour qui nous automatisons les tâches administratives