Contratti per strumenti IA: cosa devono verificare prima i responsabili degli studi medici

Prima di firmare un contratto per uno strumento di intelligenza artificiale, i responsabili degli studi medici di base devono verificare sei aree fondamentali: classificazione normativa, responsabilità clinica, residenza dei dati, certificazioni di sicurezza, integrazione con il sistema di cartelle cliniche e prove cliniche reali. Per ognuna di queste aree esistono obblighi che ricadono sullo studio, non sul fornitore.

Lo strumento è classificato come dispositivo medico?

Non tutti gli strumenti di IA usati in ambito clinico sono dispositivi medici, ma molti lo sono. Se uno strumento supporta la diagnosi clinica, le decisioni di triage o le raccomandazioni terapeutiche, è probabile che rientri nella definizione di Software as a Medical Device (SaMD). In tal caso, richiede la marcatura UKCA o CE ai sensi del Regolamento sui dispositivi medici. Prima di firmare, i responsabili degli studi devono consultare il database MHRA Product and Registration Database (PARD) per verificare lo stato di registrazione dello strumento, chiedere direttamente al fornitore la classe del dispositivo e controllare se esiste una valutazione dell'Istituto nazionale per la salute e l'eccellenza delle cure (NICE), nelle forme MIB, DG o EVA.

Il GP Mythbuster 109 della Care Quality Commission (CQC) sull'IA, pubblicato a luglio 2025, chiarisce che gli ispettori verificheranno se gli studi hanno controllato la registrazione MHRA ove applicabile e se l'approvvigionamento è avvenuto nel rispetto degli standard DCB0160 e Digital Technology Assessment Criteria (DTAC). Gli strumenti non classificati come dispositivi medici comportano comunque requisiti di protezione dei dati, sicurezza clinica e governance.

Chi detiene la responsabilità clinica e legale se qualcosa va storto?

È una delle domande più importanti in qualsiasi contratto per strumenti di IA, e spesso i contratti dei fornitori la lasciano volutamente in ombra. La posizione generale nell'assistenza primaria del NHS è che le organizzazioni del NHS possono essere ritenute responsabili per reclami legati all'IA anche quando usano strumenti di terze parti. I fornitori tendono a limitare la propria responsabilità al funzionamento del software come descritto nel contratto, senza accettare alcuna responsabilità per le decisioni cliniche prese sulla base degli output dell'IA. Se una nota clinica generata dall'IA contiene un errore che influenza l'assistenza al paziente, le conseguenze ricadono sullo studio.

Nell'esaminare i termini contrattuali, i responsabili degli studi devono cercare dichiarazioni chiare su dove si colloca la responsabilità clinica. Le clausole di indennizzo vanno lette con attenzione: coprono gli incidenti clinici o soltanto i guasti nelle prestazioni del software? I termini richiedono la supervisione umana di tutti gli output dell'IA? Quale documentazione è prevista? Surrey & Sussex Local Medical Committees (LMCs) consigliano inoltre di coinvolgere il proprio Integrated Care Board per ottenere garanzie e di consultare l'organizzazione di difesa medica prima della distribuzione.

Dove vengono elaborati e archiviati i dati dei pazienti?

La residenza dei dati, ovvero il paese in cui i dati vengono elaborati e archiviati, è una questione centrale. Ai sensi del Regolamento generale sulla protezione dei dati (GDPR) del Regno Unito e del dovere di riservatezza di common law, i dati dei pazienti sono dati di categoria speciale: il loro trattamento deve essere lecito, trasparente e proporzionato. Se i dati vengono trasferiti al di fuori del Regno Unito o dell'Unione Europea, sono necessarie garanzie aggiuntive. Le linee guida di NHS England sui prodotti di ambient scribing confermano che una valutazione d'impatto sulla protezione dei dati (DPIA) è molto probabilmente un requisito legale prima della distribuzione, dato il trattamento su larga scala di dati sanitari che questi strumenti comportano.

Prima di firmare, i responsabili degli studi devono chiarire: dove vengono elaborati i dati (Regno Unito, UE o paese terzo); chi sono i sub-responsabili del trattamento del fornitore; se il fornitore usa i dati delle consultazioni per addestrare i propri modelli e su quale base giuridica; se un accordo sul trattamento dei dati conforme all'articolo 28 del GDPR del Regno Unito è incluso nel contratto. Su questo punto vale la pena essere espliciti: la distinzione tra dati anonimizzati e pseudonimizzati è più importante di quanto molti contratti lascino intendere. I dati pseudonimizzati sono quelli dai quali i riferimenti diretti all'identità sono stati rimossi, ma che potrebbero ancora essere ricondotti a un individuo. Mantengono un rischio residuo di re-identificazione e restano soggetti alla normativa sulla protezione dei dati, come segnala il commento legale di Spencer West LLP.

Quali certificazioni di sicurezza dovrebbe avere il fornitore?

Le certificazioni non sono una garanzia assoluta, ma la loro assenza è un segnale che non si può ignorare. Per gli strumenti di IA clinica usati nell'assistenza primaria del NHS, i responsabili degli studi devono aspettarsi che i fornitori abbiano, o stiano lavorando attivamente per ottenere, le seguenti certificazioni:

• ISO 27001 — lo standard internazionale per i sistemi di gestione della sicurezza delle informazioni

• NHS Data Security and Protection (DSP) Toolkit — requisito contrattuale per le organizzazioni che accedono ai dati dei pazienti del NHS

• Cyber Essentials o Cyber Essentials Plus — la certificazione di sicurezza informatica di base del governo del Regno Unito

• Conformità DTAC — il framework di NHS England che copre protezione dei dati, sicurezza tecnica, interoperabilità e sicurezza clinica

Tra questi, il NHS DSP Toolkit è il più direttamente vincolante: è un requisito contrattuale, non una buona pratica facoltativa. Le linee guida di NHS England sull'ambient scribing segnalano anche rischi di sicurezza informatica specifici per i modelli linguistici di grandi dimensioni, tra cui gli attacchi di prompt injection. In questo tipo di attacco, il modello viene manipolato tramite istruzioni nascoste nell'input, con il rischio di perdita di dati attraverso gli output. Un fornitore che non riesce a produrre prove di queste certificazioni, o che non è in grado di fornire una presentazione aggiornata del DSP Toolkit, va trattato con cautela a prescindere da quanto convincente sia la dimostrazione del prodotto.

Come si integra lo strumento con il sistema di cartelle cliniche esistente?

La maggior parte degli studi medici di base in Inghilterra usa EMIS Web o SystmOne. Il valore pratico di uno scribe AI dipende in larga misura da quanto bene si integra con il sistema in uso. Un'integrazione che richiede di copiare e incollare manualmente il contenuto generato dall'IA nella cartella clinica aumenta sensibilmente il rischio di errori di trascrizione e riduce gran parte del guadagno in termini di efficienza.

Prima di firmare, i responsabili degli studi devono chiarire se lo strumento ha un'integrazione nativa e certificata con EMIS Web o SystmOne; chi è responsabile del mantenimento dell'integrazione quando il fornitore del sistema di cartelle cliniche rilascia aggiornamenti; se l'integrazione è stata testata in un ambiente reale di studio medico di base; e qual è la procedura da seguire se l'integrazione si interrompe durante una sessione clinica. I guasti in un contesto clinico possono creare lacune nella cartella del paziente con implicazioni dirette per la sua sicurezza.

Cosa succede ai dati dei pazienti se terminate il contratto?

La portabilità e la cancellazione dei dati alla risoluzione del contratto sono aree in cui i contratti dei fornitori sono spesso vaghi. Ai sensi del GDPR del Regno Unito, lo studio, in qualità di titolare del trattamento, è responsabile di garantire che i diritti dei pazienti possano essere esercitati anche dopo la fine del rapporto con un fornitore, incluso il diritto alla cancellazione. La protezione della privacy e della sicurezza durante l'intero ciclo di vita dei dati sanitari è un'area soggetta a un controllo normativo sempre più attento.

Le domande da chiarire prima della firma riguardano: per quanto tempo il fornitore conserva i dati dopo la risoluzione e su quale base giuridica; se è possibile esportare una copia completa di tutti i dati dei pazienti; cosa comprende in pratica la "cancellazione su richiesta", inclusi i backup e i dati detenuti dai sub-responsabili del trattamento; se il fornitore fornirà conferma scritta dell'avvenuta cancellazione. I termini contrattuali che consentono ai fornitori di conservare i dati per "miglioramento del prodotto" o "addestramento del modello" dopo la risoluzione devono essere segnalati per una revisione legale.

Lo strumento è stato addestrato su dati clinici del NHS e valutato in contesti reali di assistenza primaria?

I dati usati per addestrare un modello di IA hanno un impatto diretto sulla sua accuratezza clinica. Uno strumento addestrato prevalentemente su dati statunitensi potrebbe funzionare male su elementi specifici del NHS: la codifica clinica con SNOMED CT, i nomi e le convenzioni di dosaggio dei farmaci nel Regno Unito, i percorsi di invio e lo stile di documentazione delle consultazioni mediche di base. Le preoccupazioni sui pregiudizi introdotti attraverso i dati di addestramento emergono con regolarità nelle prospettive dei clinici sull'IA nell'assistenza primaria.

Il divario tra una dimostrazione convincente e una valutazione pubblicata in un ambiente reale di studio medico di base è significativo, e questo è il punto che merita più peso di qualsiasi altra considerazione in questa sezione. Laranjo et al. sul Lancet Primary Care osservano che distribuire strumenti di IA prima di una valutazione solida solleva preoccupazioni sulle conseguenze indesiderate sulla qualità dell'assistenza; la revisione di Frontiers in Health Services dei framework di approvvigionamento di IA del NHS raccomanda che la documentazione di conformità includa prove cliniche, non solo certificazioni tecniche. I responsabili degli studi devono chiedere studi pubblicati su riviste scientifiche o risultati di progetti pilota da contesti di assistenza primaria del Regno Unito, casi di studio con risultati misurabili come tempo di documentazione, accuratezza clinica e soddisfazione dei clinici, e una scheda del modello che descriva le fonti dei dati di addestramento, le limitazioni note e i parametri di riferimento delle prestazioni. Le prove provenienti dall'assistenza specialistica o dall'assistenza primaria internazionale non si trasferiscono direttamente alla medicina generale del Regno Unito.

Chi supervisiona lo strumento nello studio e come viene documentata la governance?

La governance degli strumenti di IA non è una decisione di approvvigionamento da prendere una volta sola: è una responsabilità operativa continua. Il GP Mythbuster 109 della CQC stabilisce che gli studi devono nominare un Clinical Safety Officer, mantenere una valutazione del rischio e un registro dei pericoli, e integrare la supervisione umana degli output dell'IA nei flussi di lavoro clinici. Nominare un Clinical Safety Officer è un'aspettativa normativa, e lo studio deve identificare una persona che detiene questa responsabilità e può dimostrare di adempierla. Non è necessario che sia un ruolo a tempo pieno.

La documentazione di governance che lo studio deve mantenere comprende un caso di sicurezza clinica DCB0160 completato, una valutazione del rischio e un registro dei pericoli rivisti con regolarità, i registri della formazione dei clinici sullo strumento, un registro di eventuali incidenti o quasi incidenti che coinvolgono output generati dall'IA, e la prova che un clinico ha rivisto tutti i contenuti generati dall'IA prima che entrino nella cartella del paziente. Questa documentazione costituisce la base di prove che protegge lo studio se si verifica un incidente clinico, ed è rilevante indipendentemente da eventuali ispezioni della CQC.

Cosa prevedono il Service Level Agreement e la risposta agli incidenti del fornitore?

Per gli strumenti di IA clinica, le conseguenze di un supporto carente sono più gravi rispetto alla maggior parte dei software. Se uno scribe AI si blocca durante una consultazione, o se una nota generata dall'IA contiene un errore sistematico che non viene rilevato subito, lo studio deve sapere che il fornitore risponderà rapidamente. Prima di firmare, i responsabili degli studi devono verificare se il Service Level Agreement distingue i tempi di risposta tra incidenti di sicurezza clinica e problemi tecnici generali; se il fornitore assegna un contatto nominato agli studi medici di base o smista il supporto attraverso un helpdesk generico; e se il fornitore ha un processo documentato di segnalazione degli incidenti di sicurezza clinica che soddisfa gli standard del NHS. Le linee guida di NHS England sull'ambient scribing richiedono che gli accordi contrattuali definiscano chiaramente ruoli, responsabilità e accountability, risposta agli incidenti inclusa. Un fornitore che non sa spiegare con chiarezza come gestisce un incidente di sicurezza clinica non è pronto per la distribuzione in un contesto di assistenza primaria.

Una checklist pre-firma per i responsabili degli studi medici di base

Normativa e sicurezza clinica

• [ ] Stato di registrazione MHRA confermato e classe del dispositivo (consultare PARD se applicabile)

• [ ] Il fornitore possiede la documentazione del caso di sicurezza clinica DCB0129

• [ ] Lo studio ha completato o avviato il caso di sicurezza clinica DCB0160 per la distribuzione

• [ ] Valutazione DTAC completata e superata dal fornitore

• [ ] Valutazione NICE verificata (MIB, DG o EVA) se applicabile

Protezione dei dati e governance delle informazioni

• [ ] DPIA completata prima della distribuzione

• [ ] Accordo sul trattamento dei dati incluso nel contratto, conforme all'articolo 28 del GDPR del Regno Unito

• [ ] Residenza dei dati confermata: elaborazione e archiviazione nel Regno Unito o nell'UE

• [ ] Sub-responsabili del trattamento identificati e valutati

• [ ] Politica del fornitore sull'utilizzo dei dati dei pazienti per l'addestramento del modello esaminata e concordata

• [ ] Termini di cancellazione e portabilità dei dati confermati alla risoluzione del contratto

Sicurezza

• [ ] Certificazione ISO 27001 confermata

• [ ] Conformità al NHS DSP Toolkit confermata

• [ ] Cyber Essentials o Cyber Essentials Plus confermato

• [ ] Sezione di sicurezza informatica DTAC superata

Responsabilità e contrattualistica

• [ ] Allocazione della responsabilità chiaramente definita nel contratto

• [ ] Clausole di indennizzo esaminate: ambito confermato

• [ ] Organizzazione di difesa medica o fornitore di indennizzo consultato

• [ ] Ruoli, responsabilità e risposta agli incidenti definiti nel contratto

Integrazione del sistema di cartelle cliniche

• [ ] Integrazione nativa con EMIS Web o SystmOne confermata

• [ ] Responsabilità di manutenzione dell'integrazione definita

• [ ] Testato in ambiente reale di studio medico di base del Regno Unito

Governance

• [ ] Clinical Safety Officer nominato a livello di studio

• [ ] Valutazione del rischio e registro dei pericoli avviati

• [ ] Piano di formazione dei clinici in atto

• [ ] Revisione umana di tutti gli output dell'IA confermata come requisito del flusso di lavoro

Prove e supporto

• [ ] Prove cliniche da contesti di assistenza primaria del Regno Unito esaminate

• [ ] SLA esaminato: tempi di risposta agli incidenti di sicurezza clinica confermati

• [ ] Contatto nominato del fornitore per gli studi medici di base confermato

• [ ] Origine dei dati di addestramento documentata dal fornitore

Domande frequenti

▶ Uno strumento di IA utilizzato in uno studio medico di base deve essere registrato come dispositivo medico?

Dipende da cosa fa lo strumento. Il punto pratico da ricordare è che la classificazione determina l'intero percorso di approvvigionamento: uno strumento classificato come SaMD richiede verifiche MHRA, DTAC e potenzialmente una valutazione NICE prima ancora di avviare le trattative contrattuali, non dopo.

▶ Chi è responsabile se una nota clinica generata dall'IA contiene un errore che influisce sull'assistenza al paziente?

Lo studio. I fornitori limitano contrattualmente la propria responsabilità al funzionamento del software. Prima di firmare, consultare la propria organizzazione di difesa medica per capire se la copertura esistente si estende agli incidenti legati all'IA o se è necessaria una copertura aggiuntiva.

▶ Dove dovrebbero essere elaborati e archiviati i dati dei pazienti quando si utilizza uno strumento di IA clinica?

Nel Regno Unito o nell'UE. Chiedere al fornitore un elenco scritto dei sub-responsabili del trattamento e verificare che nessuno di essi operi in paesi terzi privi di adeguate garanzie ai sensi del GDPR del Regno Unito. Questo elenco va allegato al contratto, non lasciato come impegno verbale.

▶ Quali certificazioni di sicurezza dovrebbe possedere un fornitore di IA clinica?

ISO 27001, NHS DSP Toolkit, Cyber Essentials o Cyber Essentials Plus e conformità DTAC. Chiedere la data dell'ultima presentazione del DSP Toolkit: un documento scaduto o non aggiornato è un segnale concreto di come il fornitore gestisce gli obblighi continuativi, non solo quelli iniziali.

▶ Cosa succede ai dati dei pazienti se uno studio termina il contratto con un fornitore di IA?

Chiedere al fornitore di specificare per iscritto i tempi di conservazione post-risoluzione, le modalità di cancellazione dei backup e se i sub-responsabili del trattamento ricevono istruzioni di cancellazione autonome. Richiedere una conferma scritta dell'avvenuta cancellazione come condizione contrattuale, non come opzione.

▶ È importante se uno strumento di IA è stato addestrato su dati del NHS o dell'assistenza primaria del Regno Unito?

Sì. Chiedere al fornitore una scheda del modello che indichi le fonti dei dati di addestramento e i parametri di riferimento delle prestazioni su consultazioni di medicina generale del Regno Unito. In assenza di questo documento, le affermazioni di accuratezza clinica non sono verificabili.

▶ Chi nello studio è responsabile della supervisione di uno strumento di IA una volta distribuito?

Il Clinical Safety Officer nominato dallo studio. Questa figura deve essere identificata prima della distribuzione e deve poter dimostrare di svolgere attivamente il ruolo, ad esempio attraverso revisioni periodiche del registro dei pericoli. Il GP Mythbuster 109 della CQC tratta questo come un'aspettativa verificabile durante le ispezioni.

▶ Come dovrebbe uno studio valutare se uno strumento di IA si integra correttamente con il suo sistema di cartelle cliniche?

Chiedere una dimostrazione in un ambiente reale di studio medico di base, con il sistema in uso dallo studio, prima di firmare. Verificare anche chi è contrattualmente responsabile del ripristino dell'integrazione se si interrompe dopo un aggiornamento del sistema di cartelle cliniche: questo punto viene spesso omesso nei contratti standard.

▶ Quali prove cliniche dovrebbe essere in grado di fornire un fornitore prima che uno studio firmi un contratto?

Studi pubblicati su riviste scientifiche o risultati documentati di progetti pilota da contesti di assistenza primaria del Regno Unito, con risultati misurabili su tempo di documentazione e accuratezza clinica. Prove provenienti dall'assistenza specialistica o da sistemi sanitari internazionali richiedono una valutazione separata prima di poter essere considerate applicabili.

▶ Cosa dovrebbe cercare uno studio negli accordi di supporto e risposta agli incidenti di un fornitore?

Verificare che il Service Level Agreement distingua esplicitamente i tempi di risposta per gli incidenti di sicurezza clinica da quelli per i problemi tecnici generali. Chiedere anche se lo studio avrà un contatto nominato o se il supporto passa attraverso un helpdesk generico: la differenza diventa rilevante nel momento in cui si verifica un problema durante una sessione clinica.