La pratica psichiatrica in Europa sta attraversando un periodo di significativo cambiamento normativo. L'EU AI Act, il primo quadro giuridico completo al mondo per l'intelligenza artificiale, è ora progressivamente in vigore e tratta con particolare rigore gli strumenti di IA impiegati nei contesti di salute mentale. Per gli psichiatri che stanno valutando o già utilizzano strumenti assistiti da IA nel loro lavoro clinico, comprendere come questa normativa classifica tali strumenti non è più una questione astratta di conformità. Ha implicazioni dirette su cosa può essere implementato, a quali condizioni e con quali obblighi verso i pazienti.

Perché gli strumenti di IA per la salute mentale sono soggetti a un controllo normativo più rigoroso

L'EU AI Act non applica uno standard uniforme a tutte le applicazioni di IA in ambito sanitario. Il suo quadro di classificazione del rischio è sensibile al contesto clinico in cui opera uno strumento, alla natura delle decisioni che influenza e alle caratteristiche della popolazione coinvolta.

La pratica della salute mentale si trova all'intersezione di diversi fattori che richiamano costantemente i requisiti più stringenti dell'Atto: la vulnerabilità della popolazione di pazienti, la gravità dei potenziali danni derivanti da output errati dell'IA e il grado in cui le decisioni cliniche in psichiatria dipendono da un giudizio sfumato, basato sulla relazione, difficile da verificare o da modificare.

Un'analisi sottoposta a revisione paritaria pubblicata nel 2024 ha concluso che si stanno correndo rischi significativi con l'uso dell'IA generativa nella salute mentale e che l'EU AI Act, sebbene direttamente applicabile, potrebbe essere di per sé insufficiente ad affrontare le specifiche lacune legali ed etiche che emergono nei contesti psichiatrici. Tale valutazione sottolinea perché gli psichiatri non possano considerare la conformità normativa come una responsabilità esclusiva del fornitore.

Cosa dice l'EU AI Act sull'IA ad alto rischio in ambito sanitario

L'Atto stabilisce un sistema di classificazione a livelli. Al vertice ci sono le pratiche di IA vietate, sistemi che sono banditi del tutto. Subito sotto si colloca la categoria ad alto rischio, che comporta gli obblighi di conformità più estesi.

L'articolo 6 dell'Atto definisce due percorsi per la classificazione ad alto rischio: il primo, quando un sistema di IA è un componente di sicurezza di un prodotto già coperto dalla legislazione di armonizzazione UE elencata nell'Allegato I (che include il Regolamento sui dispositivi medici, o MDR); il secondo, quando il sistema rientra in una delle categorie elencate nell'Allegato III.

L'Allegato III include esplicitamente i sistemi di IA destinati a diagnosticare, trattare, monitorare o prevedere condizioni di salute, compresi i disturbi mentali. Gli strumenti di IA progettati per assistere nella diagnosi psichiatrica, prevedere il deterioramento, stratificare il rischio o supportare le decisioni terapeutiche rientrano pienamente nella designazione ad alto rischio per definizione legislativa, non per interpretazione.

La distinzione tra un sistema vietato e uno ad alto rischio è importante nella pratica. I sistemi vietati, come quelli che sfruttano vulnerabilità psicologiche per manipolare il comportamento in modi che causano danno, non possono essere implementati in alcun modo. Un'analisi legale che esamina le pratiche vietate ai sensi dell'Atto ha identificato i chatbot per la salute mentale che utilizzano dialoghi persuasivi o gamification per influenzare il comportamento dei pazienti come potenzialmente in territorio vietato, a seconda del loro design e contesto di implementazione. I sistemi ad alto rischio, al contrario, possono essere implementati ma solo dopo aver soddisfatto un rigoroso insieme di requisiti di conformità.

Come la vulnerabilità della popolazione modella la classificazione del rischio

Una delle dimensioni meno discusse del quadro di rischio dell'Atto è la sua attenzione alle caratteristiche degli individui interessati, non solo alla funzione tecnica del sistema di IA. L'Atto richiede esplicitamente che la vulnerabilità degli utenti e delle persone coinvolte sia considerata nel processo di valutazione del rischio.

I pazienti che ricevono cure psichiatriche, compresi quelli con malattie mentali gravi, in crisi acuta o con condizioni che influenzano la cognizione o la capacità decisionale, sono riconosciuti dalla legge UE come un gruppo vulnerabile.

Questo ha una conseguenza pratica per la classificazione. Uno strumento di documentazione che genera note cliniche strutturate potrebbe svolgere una funzione tecnicamente comparabile in dermatologia e in psichiatria. Tuttavia, il contesto clinico in psichiatria, dove le note possono informare direttamente decisioni su detenzione, farmaci o interventi di crisi, e la vulnerabilità della popolazione di pazienti significano che la stessa funzione tecnica ha un peso normativo diverso. Gli psichiatri non dovrebbero presumere che, poiché uno strumento è commercializzato come assistente di documentazione piuttosto che come ausilio diagnostico, sia automaticamente soggetto a requisiti normativi più leggeri.

Quali strumenti di IA nella pratica della salute mentale hanno maggiori probabilità di essere classificati come ad alto rischio

Mappare le categorie comuni di strumenti di IA rispetto ai criteri di classificazione dell'Atto non è semplice, perché la classificazione dipende dallo scopo previsto e dal contesto di implementazione piuttosto che dalla sola categoria di prodotto. Detto ciò, diversi tipi di strumenti utilizzati nella pratica psichiatrica hanno costantemente probabilità di essere classificati come ad alto rischio:

• Strumenti di stratificazione del rischio e triage: I sistemi che valutano il rischio di suicidio, prevedono il deterioramento psichiatrico o danno priorità ai pazienti per una revisione urgente sono tra i casi più chiari per la classificazione ad alto rischio. Una revisione sistematica pubblicata nel 2026 ha rilevato che la prevenzione del suicidio e il rilevamento delle crisi erano un ambito comune per i chatbot di IA per la salute mentale, precisamente il contesto in cui gli output errati comportano le conseguenze più gravi.

• Strumenti di supporto diagnostico: I sistemi di IA che suggeriscono diagnosi, diagnosi differenziali o codici diagnostici per condizioni di salute mentale rientrano nell'ambito esplicito dell'Allegato III.

• Sistemi di monitoraggio dell'umore e dei sintomi: Quando questi sistemi generano output che informano direttamente le decisioni cliniche, piuttosto che registrare semplicemente dati riportati dal paziente, è probabile che siano trattati come ad alto rischio.

• Agenti di psicoterapia abilitati dall'IA: La ricerca accademica sugli agenti di psicoterapia basati su modelli linguistici di grandi dimensioni (LLM) ha evidenziato l'assenza di metodi standardizzati di valutazione della sicurezza per questa categoria e ha documentato danni da chatbot di IA non regolamentati utilizzati da popolazioni vulnerabili, rafforzando il caso per la classificazione ad alto rischio.

• Strumenti di supporto decisionale clinico: Qualsiasi sistema di IA che raccomanda o influenza decisioni terapeutiche in un contesto di salute mentale, inclusi suggerimenti di farmaci o raccomandazioni di percorsi di cura, rientra nel quadro ad alto rischio.

Un punto critico evidenziato nella guida della Commissione europea sull'IA in ambito sanitario è che i fornitori che ritengono che il loro sistema non soddisfi la soglia ad alto rischio devono documentare tale valutazione. L'onere di dimostrare una classificazione a rischio inferiore spetta al fornitore, non all'autorità di regolamentazione.

Dove si collocano gli strumenti di documentazione clinica nel quadro di classificazione

Gli assistenti di documentazione ambientale, strumenti che trascrivono e strutturano gli incontri clinici in note, lettere di invio o riepiloghi di dimissione, occupano una posizione più dibattuta nel quadro di classificazione. La questione se tali strumenti siano automaticamente ad alto rischio non ha una risposta univoca.

Uno strumento di documentazione che trascrive passivamente il parlato e presenta testo non strutturato per la revisione e la modifica da parte di un clinico si trova in un punto diverso dello spettro di rischio rispetto a uno che genera note cliniche strutturate, applica codici diagnostici o produce output che vengono abitualmente utilizzati senza significative modifiche da parte del clinico per informare le decisioni di cura.

La logica di classificazione dell'Atto si concentra sullo scopo previsto e sull'uso realistico dell'output del sistema. Come conferma l'analisi accademica dell'AI Act in ambito sanitario, l'interazione tra l'AI Act e l'MDR è particolarmente rilevante qui: se uno strumento di documentazione si qualifica come Software come dispositivo medico ai sensi dell'MDR, è probabile che attiri anche la classificazione ad alto rischio ai sensi dell'AI Act.

In un contesto di salute mentale, la soglia alla quale uno strumento di documentazione diventa ad alto rischio è probabilmente più bassa rispetto ad altre specialità. Le note cliniche in psichiatria sono frequentemente utilizzate per supportare decisioni sul trattamento obbligatorio, valutazioni della capacità e segnalazioni di salvaguardia. Quando le note generate dall'IA alimentano direttamente tali decisioni, anche se il clinico nominalmente le rivede, l'output dello strumento sta funzionalmente influenzando una decisione clinica ad alto rischio che interessa un individuo vulnerabile.

Una sfumatura importante: la guida del Medical Device Coordination Group (MDCG) chiarisce che i sistemi di IA sviluppati e utilizzati esclusivamente all'interno di una singola istituzione sanitaria, senza essere immessi sul mercato, possono essere soggetti a obblighi modificati. Questo si applica a un sottoinsieme limitato di strumenti interni e non influisce sui prodotti acquistati commercialmente.

Requisiti di conformità che psichiatri e responsabili di studio devono verificare

Per i sistemi di IA classificati come ad alto rischio, l'Atto impone un insieme di obblighi che devono essere soddisfatti prima dell'implementazione. Dal punto di vista di uno psichiatra o di un responsabile di studio che acquista uno strumento di IA, i seguenti sono i requisiti chiave da verificare con qualsiasi fornitore:

• Marcatura CE e conformità MDR: Quando lo strumento si qualifica come dispositivo medico, è richiesta la marcatura CE ai sensi dell'MDR. Gli strumenti di IA ad alto rischio che sono anche dispositivi medici devono soddisfare sia la valutazione di conformità MDR sia i requisiti dell'AI Act. Questi sono obblighi paralleli, non alternativi.

• Documentazione tecnica: I fornitori devono mantenere una documentazione tecnica completa che dimostri il design del sistema, il processo di sviluppo, le caratteristiche dei dati di addestramento e la validazione delle prestazioni. Questa documentazione dovrebbe essere disponibile per l'ispezione.

• Sistema di gestione del rischio: È richiesto un processo documentato di gestione del rischio allineato con gli standard ISO 14971 o equivalenti. La revisione sistematica del 2026 sui chatbot per la salute mentale ha rilevato che il 78,8 per cento degli studi esaminati è stato valutato ad alto rischio per il rigore della valutazione della sicurezza informatica, indicando che i test avversari formali e la modellazione strutturata delle minacce rimangono rari. Gli psichiatri dovrebbero indagare direttamente su questa lacuna con i fornitori.

• Meccanismi di supervisione umana: I sistemi ad alto rischio devono essere progettati per consentire una supervisione umana efficace, inclusa la possibilità per i clinici di ignorare, disattendere o intervenire sull'output del sistema. Questo è un requisito legale, non una caratteristica opzionale.

• Registrazione e tracce di audit: Il sistema deve registrare automaticamente le sue operazioni a un livello che supporti la revisione post-hoc di come sono stati generati gli output. Questo è particolarmente rilevante in psichiatria, dove le decisioni cliniche possono essere soggette a controllo legale.

• Accuratezza, robustezza e sicurezza informatica: I fornitori devono dimostrare che il sistema funziona a un livello definito di accuratezza ed è resiliente a errori e input avversi.

Una guida orientata ai clinici pubblicata su Psychiatria Danubina ha notato che questi concetti normativi possono risultare oscuri per i clinici e ha raccomandato che i professionisti sanitari sviluppino una familiarità sufficiente con il quadro per valutare criticamente gli strumenti di IA prima dell'adozione.

Obblighi di trasparenza quando si utilizza l'IA nelle consultazioni di salute mentale

I requisiti di trasparenza dell'AI Act sono distinti, sebbene complementari, dagli obblighi di conformità descritti sopra. In un contesto clinico, si traducono in doveri concreti che ricadono sul distributore del sistema, che nella maggior parte dei casi coincide con l'istituzione sanitaria o lo studio, non con il fornitore.

Quando un sistema di IA è coinvolto in un'interazione clinica, sia che generi note, supporti una decisione diagnostica o svolga qualsiasi parte di una valutazione, i pazienti hanno il diritto di essere informati. Nella pratica della salute mentale, questo obbligo ha un peso particolare. La relazione terapeutica è fondamentale per la cura psichiatrica e la fiducia dei pazienti in quella relazione dipende anche dalla loro comprensione di come vengono prese le decisioni sulla loro cura.

Gli obblighi chiave di trasparenza includono:

• Divulgazione del coinvolgimento dell'IA: I pazienti devono essere informati quando un sistema di IA viene utilizzato in modo che influisca materialmente sulla loro cura. Questo si applica anche quando il clinico mantiene l'autorità decisionale finale.

• Interazione con il GDPR: I dati sulla salute mentale sono classificati come una categoria speciale ai sensi del Regolamento generale sulla protezione dei dati (GDPR), attirando il massimo livello di protezione dei dati. Quando i sistemi di IA elaborano questi dati, anche attraverso la trascrizione di consultazioni, la base giuridica per il trattamento, le politiche di conservazione dei dati e i diritti di accesso e cancellazione devono essere chiaramente stabiliti. La guida ufficiale della Commissione europea segnala che il Regolamento sullo spazio europeo dei dati sanitari, entrato in vigore nel 2025 ma le cui disposizioni si applicheranno progressivamente negli anni successivi, fornisce un ulteriore livello di governance per l'uso dei dati di IA clinica.

• Consenso informato: In psichiatria, dove i pazienti possono avere condizioni che influenzano la loro capacità di dare il consenso, il processo per ottenere un consenso informato significativo al coinvolgimento dell'IA nella cura richiede un'attenta considerazione. Un protocollo di governance del 2025 per la psicoterapia abilitata dall'IA ha proposto processi di consenso stratificati come meccanismo pratico per affrontare questa sfida, esplicitamente allineato con i requisiti dell'EU AI Act e del GDPR.

Cosa chiedere a un fornitore prima di implementare uno strumento di IA in uno studio psichiatrico

Gli psichiatri e i responsabili di studio sono, ai sensi dell'Atto, classificati come distributori di sistemi di IA. Questo comporta obblighi legali diretti, ma li posiziona anche come acquirenti informati che dovrebbero ritenere i fornitori responsabili. Le seguenti domande rappresentano uno standard minimo di due diligence:

• Questo sistema è classificato come ad alto rischio ai sensi dell'EU AI Act? In caso contrario, quale valutazione documentata supporta tale conclusione?

• Il sistema si qualifica come dispositivo medico ai sensi dell'MDR? In tal caso, possiede la marcatura CE e quale organismo notificato ha condotto la valutazione di conformità?

• Il sistema è stato clinicamente validato in una popolazione di salute mentale? I dati di validazione possono essere condivisi, incluse le metriche di prestazione disaggregate per sottogruppo di pazienti?

• Dove vengono elaborati e archiviati i dati dei pazienti? Il fornitore conferma la residenza dei dati nell'UE e quali sono le politiche di conservazione e cancellazione dei dati?

• Quale traccia di audit genera il sistema e come è possibile accedere ai registri per scopi di governance clinica o revisione legale?

• Quali meccanismi di override umano sono integrati nel sistema e come sono documentati?

• Come gestisce il fornitore gli aggiornamenti del modello? Le versioni aggiornate sono soggette a rivalidazione prima dell'implementazione?

• Qual è il processo del fornitore per segnalare e rispondere a incidenti che coinvolgono output generati dall'IA che potrebbero aver contribuito a danni al paziente?

La revisione sistematica sui chatbot di IA per la salute mentale ha rilevato che la maggior parte dei sistemi si basa su LLM per scopi generali e viene implementata tramite piattaforme rivolte ai consumatori senza supervisione clinica, un modello incompatibile con i requisiti dell'AI Act per i sistemi ad alto rischio in contesti psichiatrici.

Come l'AI Act interagisce con la legislazione esistente sui dispositivi medici e sulla protezione dei dati

L'AI Act è una regolamentazione orizzontale. Si applica a tutti i settori e si affianca, piuttosto che sostituire, la legislazione settoriale esistente. Per gli psichiatri, questo significa che la conformità con l'AI Act non esaurisce gli obblighi previsti dall'MDR o dal GDPR, e viceversa.

L'analisi accademica dell'AI Act in ambito sanitario descrive l'Atto come un "quadro normativo orizzontale pionieristico" e affronta esplicitamente l'interazione tra gli obblighi di conformità dell'AI Act e i requisiti MDR. Uno strumento di IA utilizzato nella pratica psichiatrica può essere simultaneamente soggetto a:

• Obblighi ad alto rischio dell'EU AI Act (se soddisfa i criteri dell'Allegato III)

• Obblighi MDR (se si qualifica come Software come dispositivo medico)

• Obblighi GDPR (dato che i dati sulla salute mentale sono una categoria speciale)

• Legislazione nazionale sui dati sulla salute mentale in alcuni Stati membri dell'UE, che può imporre restrizioni aggiuntive sul trattamento dei registri psichiatrici

L'analisi politica di Healthy Europe segnala che il mercato europeo delle app per la salute mentale contiene migliaia di prodotti con valutazione clinica limitata e che la doppia conformità ai sensi dell'AI Act e dell'MDR aggiunge complessità che molti fornitori non hanno ancora affrontato completamente. Gli psichiatri non dovrebbero presumere che la presenza di un prodotto sul mercato indichi la piena conformità normativa, in particolare durante l'attuale periodo di transizione.

C'è anche una limitazione riconosciuta nell'attuale panorama normativo. Un'analisi legale sottoposta a revisione paritaria ha sostenuto che l'EU AI Act, sebbene direttamente applicabile all'IA per la salute mentale, è di per sé insufficiente ad affrontare tutte le lacune legali ed etiche in questo ambito. L'Atto non risolve le questioni di responsabilità clinica quando l'IA contribuisce a una decisione dannosa e i quadri nazionali di responsabilità medica continueranno a governare tali questioni in modo indipendente.

Date chiave e tempistiche di transizione che gli psichiatri dovrebbero conoscere

L'AI Act viene implementato in fasi e non tutti gli obblighi sono ancora in vigore. Per gli psichiatri che stanno valutando gli strumenti ora, la seguente tempistica è direttamente rilevante:

• Febbraio 2025: Le disposizioni sulle pratiche di IA vietate sono entrate in vigore. I sistemi di IA che sfruttano vulnerabilità psicologiche o utilizzano manipolazione subliminale in contesti clinici sono stati vietati da questa data.

• Agosto 2025: Gli obblighi relativi ai modelli di IA per scopi generali, inclusi gli LLM utilizzati come base di strumenti di IA clinica, sono entrati in vigore.

• Agosto 2026: Il quadro completo di conformità ad alto rischio, inclusi tutti gli obblighi di valutazione di conformità, documentazione, supervisione e trasparenza, si applica ai sistemi di IA in ambito sanitario. Questa è la scadenza entro la quale i fornitori e i distributori di sistemi di IA ad alto rischio devono essere in piena conformità.

• Agosto 2027: Una transizione estesa si applica specificamente ai sistemi di IA che sono anche dispositivi medici regolamentati ai sensi dell'MDR o del Regolamento sui dispositivi medico-diagnostici in vitro (IVDR), riflettendo le tempistiche più lunghe di valutazione di conformità nel settore dei dispositivi medici.

La scadenza di agosto 2026 è la più immediatamente rilevante per gli psichiatri che stanno valutando o implementando strumenti di IA oggi. Gli strumenti che vengono acquistati ora dovranno soddisfare i requisiti completi di conformità ad alto rischio entro pochi mesi dalla pubblicazione di questo articolo. Gli psichiatri e i responsabili di studio che sono a metà dell'acquisto o dell'implementazione dovrebbero considerare la scadenza di conformità come una priorità operativa attuale, non come una questione futura.

Una revisione legislativa di 50 stati degli Stati Uniti pubblicata su JMIR Mental Health, sebbene focalizzata sul contesto americano, ha identificato un modello coerente di clinici e organizzazioni professionali che rimangono assenti dalla formulazione delle politiche sull'IA, con conseguenti quadri che divergono dalle realtà cliniche. Lo stesso rischio esiste in Europa. Gli psichiatri che si impegnano attivamente con i requisiti dell'AI Act, come acquirenti, come distributori e come contributori alla guida professionale, sono meglio posizionati per modellare come questi strumenti vengono implementati nella pratica rispetto a coloro che trattano la regolamentazione come un vincolo esterno.

Domande frequenti

Perché gli strumenti di IA utilizzati in contesti di salute mentale sono soggetti a una regolamentazione più rigorosa ai sensi dell'EU AI Act?

Il quadro di classificazione del rischio dell'EU AI Act tiene conto della vulnerabilità della popolazione di pazienti, della gravità dei potenziali danni derivanti da output errati dell'IA e della complessità del giudizio clinico in psichiatria. I pazienti di salute mentale, compresi quelli in crisi acuta o con condizioni che influenzano la capacità decisionale, sono riconosciuti dalla legge UE come un gruppo vulnerabile. Tale riconoscimento aumenta direttamente il peso normativo applicato agli strumenti di IA che operano in contesti psichiatrici, anche quando tali strumenti svolgono funzioni che attirerebbero requisiti più leggeri in altre specialità.

Quali strumenti di IA utilizzati nella pratica psichiatrica hanno maggiori probabilità di essere classificati come ad alto rischio?

Diverse categorie attirano costantemente la classificazione ad alto rischio ai sensi dell'Atto. Gli strumenti di stratificazione del rischio e triage, inclusi quelli che valutano il rischio di suicidio o prevedono il deterioramento psichiatrico, rientrano chiaramente in questo gruppo. Gli strumenti di supporto diagnostico che suggeriscono diagnosi o codici diagnostici per condizioni di salute mentale sono esplicitamente coperti dall'Allegato III dell'Atto. Gli strumenti di supporto decisionale clinico che influenzano le decisioni terapeutiche, gli agenti di psicoterapia abilitati dall'IA e i sistemi di monitoraggio dell'umore o dei sintomi i cui output informano direttamente le decisioni cliniche hanno anch'essi probabilità di essere classificati come ad alto rischio.

Gli strumenti di documentazione clinica, come gli scribe ambientali, sono automaticamente classificati come ad alto rischio in contesti di salute mentale?

Non automaticamente, ma la soglia è inferiore in psichiatria rispetto ad altre specialità. Uno strumento che trascrive passivamente il parlato per la revisione da parte di un clinico si trova in un punto diverso dello spettro di rischio rispetto a uno che genera note cliniche strutturate o applica codici diagnostici. In psichiatria, le note cliniche informano frequentemente decisioni sul trattamento obbligatorio, valutazioni della capacità e segnalazioni di salvaguardia. Quando le note generate dall'IA alimentano direttamente tali decisioni, anche con revisione nominale del clinico, l'output dello strumento sta funzionalmente influenzando una decisione ad alto rischio che interessa un individuo vulnerabile. Se lo strumento si qualifica anche come Software come dispositivo medico ai sensi del Regolamento sui dispositivi medici, la classificazione ad alto rischio ai sensi dell'AI Act diventa più probabile.

Quali requisiti di conformità deve soddisfare uno strumento di IA ad alto rischio prima di poter essere implementato in uno studio psichiatrico?

I sistemi di IA ad alto rischio devono soddisfare diversi requisiti prima dell'implementazione. I fornitori devono mantenere una documentazione tecnica completa che copra il design del sistema, i dati di addestramento e la validazione delle prestazioni. È richiesto un processo documentato di gestione del rischio. Il sistema deve includere meccanismi di supervisione umana che consentano ai clinici di ignorare o disattendere i suoi output. Deve essere in atto la registrazione automatica delle operazioni del sistema per supportare la revisione post-hoc. Quando lo strumento si qualifica anche come dispositivo medico, è richiesta la marcatura CE ai sensi del Regolamento sui dispositivi medici insieme alla conformità dell'AI Act. I fornitori devono anche dimostrare livelli definiti di accuratezza, robustezza e resilienza alla sicurezza informatica.

Quali obblighi di trasparenza si applicano quando si utilizza l'IA nelle consultazioni di salute mentale?

I pazienti devono essere informati quando un sistema di IA viene utilizzato in modo che influisca materialmente sulla loro cura, anche quando il clinico mantiene l'autorità decisionale finale. I dati sulla salute mentale sono classificati come una categoria speciale ai sensi del Regolamento generale sulla protezione dei dati, il che significa che la base giuridica per il trattamento, le politiche di conservazione dei dati e i diritti dei pazienti di accesso e cancellazione devono essere chiaramente stabiliti. In psichiatria, dove i pazienti possono avere condizioni che influenzano la loro capacità di dare il consenso, ottenere un consenso informato significativo al coinvolgimento dell'IA nella cura richiede particolare attenzione. Un protocollo di governance del 2025 ha proposto processi di consenso stratificati come approccio pratico a questa sfida.

Uno strumento di IA vietato ai sensi dell'EU AI Act può essere utilizzato in un contesto di salute mentale se è clinicamente vantaggioso?

No. Le pratiche di IA vietate sono bandite del tutto e non possono essere implementate indipendentemente dal beneficio clinico percepito. L'Atto identifica i sistemi che sfruttano vulnerabilità psicologiche per manipolare il comportamento in modi dannosi come vietati. I chatbot per la salute mentale che utilizzano dialoghi persuasivi o gamification per influenzare il comportamento dei pazienti possono entrare in territorio vietato a seconda del loro design e contesto di implementazione. La distinzione tra un sistema vietato e uno ad alto rischio è significativa: i sistemi ad alto rischio possono essere implementati, ma solo dopo aver soddisfatto rigorosi requisiti di conformità.

Quali domande dovrebbe porre uno psichiatra o un responsabile di studio a un fornitore prima di acquistare uno strumento di IA?

Come minimo, dovresti chiedere se il sistema è classificato come ad alto rischio ai sensi dell'EU AI Act e, in caso contrario, quale valutazione documentata supporta tale conclusione. Chiedi se si qualifica come dispositivo medico e, in tal caso, se possiede la marcatura CE. Richiedi dati di validazione clinica specifici per una popolazione di salute mentale, incluse metriche di prestazione disaggregate per sottogruppo di pazienti. Conferma dove vengono elaborati e archiviati i dati dei pazienti e se si applica la residenza dei dati nell'UE. Chiedi quale traccia di audit genera il sistema, quali meccanismi di override umano esistono, come vengono gestiti gli aggiornamenti del modello e qual è il processo del fornitore per segnalare incidenti che coinvolgono output generati dall'IA che potrebbero aver contribuito a danni al paziente.

Come interagisce l'EU AI Act con il Regolamento sui dispositivi medici e il GDPR nella pratica psichiatrica?

L'EU AI Act si affianca alla legislazione esistente piuttosto che sostituirla. Uno strumento di IA utilizzato nella pratica psichiatrica può essere simultaneamente soggetto agli obblighi ad alto rischio dell'EU AI Act, agli obblighi del Regolamento sui dispositivi medici se si qualifica come Software come dispositivo medico e agli obblighi del Regolamento generale sulla protezione dei dati dato che i dati sulla salute mentale sono una categoria speciale. Alcuni Stati membri dell'UE impongono anche restrizioni nazionali aggiuntive sul trattamento dei registri psichiatrici. La conformità con un quadro non esaurisce gli obblighi previsti dagli altri. Un'analisi legale sottoposta a revisione paritaria ha notato che l'AI Act da solo è insufficiente ad affrontare tutte le lacune legali ed etiche specifiche dell'IA per la salute mentale.

Quali sono le scadenze chiave di conformità dell'EU AI Act di cui gli psichiatri dovrebbero essere consapevoli?

Le disposizioni sulle pratiche di IA vietate sono entrate in vigore a febbraio 2025. Gli obblighi relativi ai modelli di IA per scopi generali, inclusi i modelli linguistici di grandi dimensioni utilizzati come base di strumenti di IA clinica, sono entrati in vigore ad agosto 2025. Il quadro completo di conformità ad alto rischio, che copre la valutazione di conformità, la documentazione, la supervisione e gli obblighi di trasparenza, si applica da agosto 2026. Una transizione estesa fino ad agosto 2027 si applica specificamente ai sistemi di IA che sono anche dispositivi medici regolamentati ai sensi del Regolamento sui dispositivi medici o del Regolamento sui dispositivi medico-diagnostici in vitro. Gli strumenti che vengono acquistati ora dovranno soddisfare i requisiti completi di conformità ad alto rischio entro agosto 2026.

L'EU AI Act risolve le questioni di responsabilità clinica quando l'IA contribuisce a una decisione dannosa in psichiatria?

No. Un'analisi legale sottoposta a revisione paritaria ha confermato che l'EU AI Act non risolve le questioni di responsabilità clinica quando l'IA contribuisce a una decisione dannosa. I quadri nazionali di responsabilità medica continuano a governare tali questioni in modo indipendente. L'Atto stabilisce obblighi di conformità per fornitori e distributori, ma non crea un regime di responsabilità unificato per i danni clinici correlati all'IA. Gli psichiatri dovrebbero cercare consulenza legale specifica per la loro giurisdizione quando valutano l'esposizione alla responsabilità derivante dall'implementazione di strumenti di IA.