Classificação de risco da Lei da IA para ferramentas de saúde mental

A prática psiquiátrica na Europa está a passar por uma mudança regulamentar significativa. A Lei da IA da UE, o primeiro quadro jurídico abrangente do mundo para a inteligência artificial, está agora a entrar progressivamente em vigor e trata as ferramentas de IA implementadas em contextos de saúde mental com particular seriedade. Para os psiquiatras que avaliam ou já utilizam ferramentas assistidas por IA no seu trabalho clínico, compreender como este regulamento classifica essas ferramentas deixou de ser uma abstração de conformidade. Tem implicações diretas sobre o que pode ser implementado, em que condições e com que obrigações para com os doentes.

Porque é que as ferramentas de IA em saúde mental enfrentam um escrutínio regulamentar acrescido

A Lei da IA da UE não aplica uma norma uniforme a todas as aplicações de IA na área da saúde. O seu quadro de classificação de risco é sensível ao contexto clínico em que uma ferramenta opera, à natureza das decisões que influencia e às características da população que afeta. A prática de saúde mental situa-se na interseção de vários fatores que atraem consistentemente os requisitos mais exigentes da Lei: a vulnerabilidade da população de doentes, a gravidade dos danos potenciais decorrentes de resultados errados da IA e o grau em que as decisões clínicas em psiquiatria dependem de um julgamento matizado, baseado em relações, que é difícil de auditar ou reverter.

Uma análise revista por pares publicada em 2024 concluiu que estão a ser assumidos riscos significativos com a utilização de IA generativa em saúde mental, e que a Lei da IA da UE, embora diretamente aplicável, pode ser insuficiente, por si só, para abordar as lacunas legais e éticas específicas que surgem em contextos psiquiátricos. Essa avaliação sublinha porque é que os psiquiatras não podem tratar a conformidade regulamentar apenas como um problema do fornecedor.

O que diz a Lei da IA da UE sobre IA de alto risco na área da saúde

A Lei estabelece um sistema de classificação hierarquizado. No topo estão as práticas de IA proibidas, sistemas que são totalmente banidos. Abaixo disso, situa-se a categoria de alto risco, que acarreta as obrigações de conformidade mais extensas.

O Artigo 6 da Lei define duas vias para a classificação de alto risco: primeiro, quando um sistema de IA é um componente de segurança de um produto já abrangido pela legislação de harmonização da UE listada no Anexo I (que inclui o Regulamento dos Dispositivos Médicos, ou MDR). Segundo, quando o sistema se enquadra numa das categorias listadas no Anexo III.

O Anexo III inclui explicitamente sistemas de IA destinados a diagnosticar, tratar, monitorizar ou prever condições de saúde, incluindo perturbações mentais. As ferramentas de IA concebidas para auxiliar no diagnóstico psiquiátrico, prever deterioração, estratificar risco ou apoiar decisões de tratamento enquadram-se claramente na designação de alto risco por conceção legislativa, não por interpretação.

A distinção entre um sistema proibido e um de alto risco é importante na prática. Os sistemas proibidos, como aqueles que exploram vulnerabilidades psicológicas para manipular o comportamento de formas que causam danos, não podem ser implementados de todo. Uma análise jurídica que examina as práticas proibidas ao abrigo da Lei identificou chatbots de saúde mental que utilizam diálogo persuasivo ou gamificação para influenciar o comportamento do doente como potencialmente a cruzar para território proibido, dependendo do seu design e contexto de implementação. Os sistemas de alto risco, pelo contrário, podem ser implementados, mas apenas após satisfazerem um conjunto rigoroso de requisitos de conformidade.

Como a vulnerabilidade da população molda a classificação de risco

Uma das dimensões menos discutidas do quadro de risco da Lei é a sua atenção às características dos indivíduos afetados, não apenas à função técnica do sistema de IA. A Lei exige explicitamente que a vulnerabilidade dos utilizadores e das pessoas afetadas seja considerada no processo de avaliação de risco. Os doentes que recebem cuidados psiquiátricos, incluindo aqueles com doença mental grave, em crise aguda ou com condições que afetam a cognição ou a capacidade de tomada de decisão, são reconhecidos ao abrigo da lei da UE como um grupo vulnerável.

Isto tem uma consequência prática para a classificação. Uma ferramenta de documentação que gera notas clínicas estruturadas pode desempenhar uma função tecnicamente comparável em dermatologia e em psiquiatria. Mas o contexto clínico em psiquiatria, onde as notas podem informar diretamente decisões sobre internamento, medicação ou intervenção em crise, e a vulnerabilidade da população de doentes significam que a mesma função técnica tem um peso regulamentar diferente. Os psiquiatras não devem presumir que, por uma ferramenta ser comercializada como assistente de documentação em vez de auxiliar de diagnóstico, está automaticamente sujeita a requisitos regulamentares mais leves.

Que ferramentas de IA na prática de saúde mental têm maior probabilidade de serem classificadas como de alto risco

Mapear categorias comuns de ferramentas de IA face aos critérios de classificação da Lei não é simples, porque a classificação depende do propósito pretendido e do contexto de implementação, em vez de apenas da categoria do produto. Dito isto, vários tipos de ferramentas utilizadas na prática psiquiátrica têm, de forma consistente, probabilidade de atrair a designação de alto risco:

• Ferramentas de estratificação de risco e triagem: Os sistemas que avaliam o risco de suicídio, preveem deterioração psiquiátrica ou priorizam doentes para revisão urgente estão entre os casos mais claros para classificação de alto risco. Uma revisão sistemática publicada em 2026 descobriu que a prevenção do suicídio e a deteção de crises eram um domínio comum para chatbots de IA em saúde mental, precisamente o contexto onde os resultados errados acarretam as consequências mais graves.

• Ferramentas de apoio ao diagnóstico: Os sistemas de IA que sugerem diagnósticos, diagnósticos diferenciais ou códigos de diagnóstico para condições de saúde mental enquadram-se no âmbito explícito do Anexo III.

• Sistemas de monitorização de humor e sintomas: Quando estes sistemas geram resultados que informam diretamente decisões clínicas, em vez de simplesmente registarem dados reportados pelo doente, é provável que sejam tratados como de alto risco.

• Agentes de psicoterapia habilitados por IA: A investigação académica sobre agentes de psicoterapia baseados em modelos de linguagem de grande escala (LLM) destacou a ausência de métodos padronizados de avaliação de segurança para esta categoria e documentou danos de chatbots de IA não regulamentados utilizados por populações vulneráveis, reforçando o caso para classificação de alto risco.

• Ferramentas de apoio à decisão clínica: Qualquer sistema de IA que recomende ou influencie decisões de tratamento num contexto de saúde mental, incluindo sugestões de medicação ou recomendações de percursos de cuidados, enquadra-se no quadro de alto risco.

Um ponto crítico notado na orientação da Comissão Europeia sobre IA na área da saúde é que os fornecedores que acreditam que o seu sistema não atinge o limiar de alto risco devem documentar essa avaliação. O ónus de demonstrar uma classificação de risco mais baixa recai sobre o fornecedor, não sobre o regulador.

Onde se situam as ferramentas de documentação clínica no quadro de classificação

Os assistentes de documentação ambiente, ferramentas que transcrevem e estruturam encontros clínicos em notas, cartas de referenciação ou resumos de alta, ocupam uma posição mais contestada no quadro de classificação. A questão de saber se tais ferramentas são automaticamente de alto risco não tem uma resposta única.

Uma ferramenta de documentação que transcreve passivamente a fala e apresenta texto não estruturado para um clínico rever e editar situa-se num ponto diferente do espectro de risco do que uma que gera notas clínicas estruturadas, aplica códigos de diagnóstico ou produz resultados que são rotineiramente utilizados sem modificação significativa do clínico para informar decisões de cuidados. A lógica de classificação da Lei centra-se no propósito pretendido e na utilização realista do resultado do sistema.

Como confirma a análise académica da Lei da IA na área da saúde, a interação entre a Lei da IA e o MDR é particularmente relevante aqui: se uma ferramenta de documentação se qualifica como Software como Dispositivo Médico ao abrigo do MDR, é provável que atraia classificação de alto risco ao abrigo da Lei da IA também.

Num contexto de saúde mental, o limiar a partir do qual uma ferramenta de documentação se torna de alto risco é, sem dúvida, mais baixo do que noutras especialidades. As notas clínicas em psiquiatria são frequentemente utilizadas para apoiar decisões sobre tratamento compulsivo, avaliações de capacidade e referenciações de salvaguarda. Quando as notas geradas por IA alimentam diretamente essas decisões, mesmo que o clínico as reveja apenas formalmente, o resultado da ferramenta está funcionalmente a influenciar uma decisão clínica de alto risco que afeta um indivíduo vulnerável.

Uma nuance importante: a orientação do Grupo de Coordenação de Dispositivos Médicos (MDCG) esclarece que os sistemas de IA desenvolvidos e utilizados exclusivamente dentro de uma única instituição de saúde, sem serem colocados no mercado, podem estar sujeitos a obrigações modificadas. Isto aplica-se a um subconjunto limitado de ferramentas internas e não afeta produtos adquiridos comercialmente.

Requisitos de conformidade que os psiquiatras e gestores de prática devem verificar

Para os sistemas de IA classificados como de alto risco, a Lei impõe um conjunto de obrigações que devem ser satisfeitas antes da implementação. Do ponto de vista de um psiquiatra ou gestor de prática que adquire uma ferramenta de IA, os seguintes são os requisitos-chave a verificar com qualquer fornecedor:

• Marcação CE e conformidade com o MDR: Quando a ferramenta se qualifica como dispositivo médico, é necessária a marcação CE ao abrigo do MDR. As ferramentas de IA de alto risco que também são dispositivos médicos devem satisfazer tanto a avaliação de conformidade do MDR como os requisitos da Lei da IA. Estas são obrigações paralelas, não alternativas.

• Documentação técnica: Os fornecedores devem manter documentação técnica abrangente que demonstre o design do sistema, o processo de desenvolvimento, as características dos dados de treino e a validação de desempenho. Esta documentação deve estar disponível para inspeção.

• Sistema de gestão de risco: É necessário um processo documentado de gestão de risco alinhado com a norma ISO 14971 ou normas equivalentes. A revisão sistemática de 2026 sobre chatbots de saúde mental descobriu que 78,8 por cento dos estudos revistos foram classificados como de alto risco quanto ao rigor da avaliação de cibersegurança, indicando que testes adversariais formais e modelação estruturada de ameaças permanecem raros. Os psiquiatras devem abordar esta lacuna diretamente com os fornecedores.

• Mecanismos de supervisão humana: Os sistemas de alto risco devem ser concebidos para permitir uma supervisão humana eficaz, incluindo a capacidade dos clínicos de anular, ignorar ou intervir no resultado do sistema. Este é um requisito legal, não uma funcionalidade opcional.

• Registo e trilhos de auditoria: O sistema deve registar automaticamente as suas operações num grau que suporte a revisão posterior de como os resultados foram gerados. Isto é particularmente relevante em psiquiatria, onde as decisões clínicas podem estar sujeitas a escrutínio legal.

• Precisão, robustez e cibersegurança: Os fornecedores devem demonstrar que o sistema tem um desempenho a um nível definido de precisão e é resiliente a erros e entradas adversas.

Um guia focado em clínicos publicado na Psychiatria Danubina notou que estes conceitos regulamentares podem ser obscuros para os clínicos, e recomendou que os profissionais de saúde desenvolvam familiaridade suficiente com o quadro para avaliar criticamente as ferramentas de IA antes da adoção.

Obrigações de transparência ao utilizar IA em consultas de saúde mental

Os requisitos de transparência da Lei da IA são distintos, embora complementares, das obrigações de conformidade descritas acima. Num contexto clínico, traduzem-se em deveres concretos que recaem sobre o implementador do sistema, que na maioria dos casos significa a instituição de saúde ou prática, não o fornecedor.

Quando um sistema de IA está envolvido numa interação clínica, seja a gerar notas, a apoiar uma decisão de diagnóstico ou a conduzir qualquer parte de uma avaliação, os doentes têm o direito de ser informados. Na prática de saúde mental, esta obrigação tem um peso particular. A relação terapêutica é fundamental para os cuidados psiquiátricos, e a confiança dos doentes nessa relação depende em parte da sua compreensão de como as decisões sobre os seus cuidados estão a ser tomadas.

As principais obrigações de transparência incluem:

• Divulgação do envolvimento da IA: Os doentes devem ser informados quando um sistema de IA está a ser utilizado de uma forma que afeta materialmente os seus cuidados. Isto aplica-se mesmo quando o clínico mantém a autoridade de decisão final.

• Interação com o RGPD: Os dados de saúde mental são classificados como uma categoria especial ao abrigo do Regulamento Geral sobre a Proteção de Dados (RGPD), atraindo o nível mais elevado de proteção de dados. Quando os sistemas de IA processam estes dados, incluindo através da transcrição de consultas, a base legal para o processamento, as políticas de retenção de dados e os direitos de acesso e eliminação devem ser claramente estabelecidos. A orientação oficial da Comissão Europeia nota que o Regulamento do Espaço Europeu de Dados de Saúde, que entrou em vigor em 2025, mas cujas disposições se aplicarão progressivamente ao longo dos anos seguintes, fornece uma camada adicional de governação para a utilização de dados de IA clínica.

• Consentimento informado: Em psiquiatria, onde os doentes podem ter condições que afetam a sua capacidade de consentir, o processo para obter consentimento informado significativo para o envolvimento da IA nos cuidados requer consideração cuidadosa. Um protocolo de governação de 2025 para psicoterapia habilitada por IA propôs processos de consentimento em camadas como um mecanismo prático para abordar este desafio, explicitamente alinhado com os requisitos da Lei da IA da UE e do RGPD.

O que perguntar a um fornecedor antes de implementar uma ferramenta de IA numa prática psiquiátrica

Os psiquiatras e gestores de prática são, ao abrigo da Lei, classificados como implementadores de sistemas de IA. Isto cria obrigações legais diretas, mas também os posiciona como adquirentes informados que devem responsabilizar os fornecedores. As seguintes questões representam uma norma mínima de diligência devida:

• Este sistema está classificado como de alto risco ao abrigo da Lei da IA da UE? Se não, que avaliação documentada apoia essa conclusão?

• O sistema qualifica-se como dispositivo médico ao abrigo do MDR? Se sim, possui marcação CE, e que Organismo Notificado conduziu a avaliação de conformidade?

• O sistema foi clinicamente validado numa população de saúde mental? Os dados de validação podem ser partilhados, incluindo métricas de desempenho desagregadas por subgrupo de doentes?

• Onde são processados e armazenados os dados dos doentes? O fornecedor confirma a residência de dados na UE, e quais são as políticas de retenção e eliminação de dados?

• Que trilho de auditoria o sistema gera, e como podem os registos ser acedidos para fins de governação clínica ou revisão legal?

• Que mecanismos de anulação humana estão incorporados no sistema, e como são documentados?

• Como é que o fornecedor gere as atualizações do modelo? As versões atualizadas estão sujeitas a revalidação antes da implementação?

• Qual é o processo do fornecedor para reportar e responder a incidentes envolvendo resultados gerados por IA que possam ter contribuído para danos ao doente?

A revisão sistemática sobre chatbots de IA em saúde mental descobriu que a maioria dos sistemas depende de LLMs de uso geral e são implementados através de plataformas voltadas para o consumidor sem supervisão clínica, um padrão que é incompatível com os requisitos da Lei da IA para sistemas de alto risco em contextos psiquiátricos.

Como a Lei da IA interage com a legislação existente sobre dispositivos médicos e proteção de dados

A Lei da IA é um regulamento horizontal. Aplica-se a vários setores e situa-se ao lado, em vez de substituir, a legislação setorial existente. Para os psiquiatras, isto significa que a conformidade com a Lei da IA não dispensa as obrigações ao abrigo do MDR ou do RGPD, e vice-versa.

A análise académica da Lei da IA na área da saúde descreve a Lei como um quadro regulamentar horizontal pioneiro e aborda explicitamente a interação entre as obrigações de conformidade da Lei da IA e os requisitos do MDR. Uma ferramenta de IA utilizada na prática psiquiátrica pode estar simultaneamente sujeita a:

• Obrigações de alto risco da Lei da IA da UE (se cumprir os critérios do Anexo III)

• Obrigações do MDR (se se qualificar como Software como Dispositivo Médico)

• Obrigações do RGPD (dado que os dados de saúde mental são uma categoria especial)

• Legislação nacional sobre dados de saúde mental em alguns Estados-Membros da UE, que pode impor restrições adicionais ao processamento de registos psiquiátricos

A análise de política da Healthy Europe nota que o mercado europeu de aplicações de saúde mental contém milhares de produtos com avaliação clínica limitada, e que a dupla conformidade ao abrigo da Lei da IA e do MDR acrescenta complexidade que muitos fornecedores ainda não abordaram totalmente. Os psiquiatras não devem presumir que a presença de um produto no mercado indica conformidade regulamentar total, particularmente durante o atual período de transição.

Existe também uma limitação reconhecida no atual panorama regulamentar. Uma análise jurídica revista por pares argumentou que a Lei da IA da UE, embora diretamente aplicável à IA em saúde mental, é insuficiente, por si só, para abordar todas as lacunas legais e éticas neste domínio. A Lei não resolve questões de responsabilidade clínica quando a IA contribui para uma decisão prejudicial, e os quadros nacionais de responsabilidade médica continuarão a governar essas questões de forma independente.

Datas-chave e cronogramas de transição que os psiquiatras devem conhecer

A Lei da IA está a ser implementada por fases, e nem todas as obrigações estão ainda em vigor. Para os psiquiatras que avaliam ferramentas agora, o seguinte cronograma é diretamente relevante:

• Fevereiro de 2025: As disposições sobre práticas de IA proibidas entraram em vigor. Os sistemas de IA que exploram vulnerabilidades psicológicas ou utilizam manipulação subliminar em contextos clínicos foram proibidos a partir desta data.

• Agosto de 2025: As obrigações relativas a modelos de IA de uso geral, incluindo LLMs utilizados como base de ferramentas de IA clínica, entraram em vigor.

• Agosto de 2026: O quadro completo de conformidade de alto risco, incluindo todas as obrigações de avaliação de conformidade, documentação, supervisão e transparência, aplica-se aos sistemas de IA na área da saúde. Este é o prazo até ao qual os fornecedores e implementadores de sistemas de IA de alto risco devem estar em plena conformidade.

• Agosto de 2027: Uma transição alargada aplica-se especificamente aos sistemas de IA que também são dispositivos médicos regulamentados ao abrigo do MDR ou do Regulamento de Dispositivos Médicos para Diagnóstico In Vitro (IVDR), refletindo os cronogramas de avaliação de conformidade mais longos no setor de dispositivos médicos.

O prazo de agosto de 2026 é o mais imediatamente relevante para os psiquiatras que avaliam ou implementam ferramentas de IA hoje. As ferramentas que estão a ser adquiridas agora terão de cumprir os requisitos completos de conformidade de alto risco dentro de meses após a publicação deste artigo. Os psiquiatras e gestores de prática que estão a meio da aquisição ou implementação devem tratar o prazo de conformidade como uma preocupação operacional ativa, não como uma consideração futura.

Uma revisão legislativa dos 50 estados dos EUA publicada na JMIR Mental Health, embora focada no contexto americano, identificou um padrão consistente de clínicos e organizações profissionais a permanecerem ausentes da formulação de políticas de IA, resultando em quadros que divergem das realidades clínicas. O mesmo risco existe na Europa. Os psiquiatras que se envolvem ativamente com os requisitos da Lei da IA, como adquirentes, como implementadores e como contribuintes para orientação profissional, estão melhor posicionados para moldar como estas ferramentas são implementadas na prática do que aqueles que tratam a regulamentação como uma restrição externa.

Perguntas frequentes

▶ Porque é que as ferramentas de IA utilizadas em contextos de saúde mental enfrentam uma regulamentação mais rigorosa ao abrigo da Lei da IA da UE?

O quadro de classificação de risco da Lei da IA da UE tem em conta a vulnerabilidade da população de doentes, a gravidade dos danos potenciais de resultados incorretos da IA e a complexidade do julgamento clínico em psiquiatria. Os doentes de saúde mental, incluindo aqueles em crise aguda ou com condições que afetam a capacidade de tomada de decisão, são reconhecidos ao abrigo da lei da UE como um grupo vulnerável. Esse reconhecimento aumenta diretamente o peso regulamentar aplicado às ferramentas de IA que operam em contextos psiquiátricos, mesmo quando essas ferramentas desempenham funções que atrairiam requisitos mais leves noutras especialidades.

▶ Que ferramentas de IA utilizadas na prática psiquiátrica têm maior probabilidade de serem classificadas como de alto risco?

Várias categorias atraem consistentemente a classificação de alto risco ao abrigo da Lei. As ferramentas de estratificação de risco e triagem, incluindo aquelas que avaliam o risco de suicídio ou preveem deterioração psiquiátrica, enquadram-se claramente neste grupo. As ferramentas de apoio ao diagnóstico que sugerem diagnósticos ou códigos de diagnóstico para condições de saúde mental são explicitamente cobertas pelo Anexo III da Lei. As ferramentas de apoio à decisão clínica que influenciam decisões de tratamento, os agentes de psicoterapia habilitados por IA e os sistemas de monitorização de humor ou sintomas cujos resultados informam diretamente decisões clínicas também têm probabilidade de serem classificados como de alto risco.

▶ As ferramentas de documentação clínica, como os escribas ambiente, são automaticamente classificadas como de alto risco em contextos de saúde mental?

Não automaticamente, mas o limiar é mais baixo em psiquiatria do que noutras especialidades. Uma ferramenta que transcreve passivamente a fala para um clínico rever situa-se num ponto diferente do espectro de risco do que uma que gera notas clínicas estruturadas ou aplica códigos de diagnóstico. Em psiquiatria, as notas clínicas informam frequentemente decisões sobre tratamento compulsivo, avaliações de capacidade e referenciações de salvaguarda. Quando as notas geradas por IA alimentam diretamente essas decisões, mesmo com revisão apenas formal do clínico, o resultado da ferramenta está funcionalmente a influenciar uma decisão de alto risco que afeta um indivíduo vulnerável. Se a ferramenta também se qualificar como Software como Dispositivo Médico ao abrigo do Regulamento dos Dispositivos Médicos, a classificação de alto risco ao abrigo da Lei da IA torna-se mais provável.

▶ Que requisitos de conformidade deve uma ferramenta de IA de alto risco cumprir antes de poder ser implementada numa prática psiquiátrica?

Os sistemas de IA de alto risco devem satisfazer vários requisitos antes da implementação. Os fornecedores devem manter documentação técnica abrangente cobrindo o design do sistema, os dados de treino e a validação de desempenho. É necessário um processo documentado de gestão de risco. O sistema deve incluir mecanismos de supervisão humana que permitam aos clínicos anular ou ignorar os seus resultados. Deve estar em vigor o registo automático das operações do sistema para apoiar a revisão posterior. Quando a ferramenta também se qualifica como dispositivo médico, é necessária a marcação CE ao abrigo do Regulamento dos Dispositivos Médicos juntamente com a conformidade da Lei da IA. Os fornecedores também devem demonstrar níveis definidos de precisão, robustez e resiliência de cibersegurança.

▶ Que obrigações de transparência se aplicam ao utilizar IA em consultas de saúde mental?

Os doentes devem ser informados quando um sistema de IA é utilizado de uma forma que afeta materialmente os seus cuidados, mesmo quando o clínico mantém a autoridade de decisão final. Os dados de saúde mental são classificados como uma categoria especial ao abrigo do Regulamento Geral sobre a Proteção de Dados, o que significa que a base legal para o processamento, as políticas de retenção de dados e os direitos dos doentes de acesso e eliminação devem ser claramente estabelecidos. Em psiquiatria, onde os doentes podem ter condições que afetam a sua capacidade de consentir, obter consentimento informado significativo para o envolvimento da IA nos cuidados requer cuidado particular. Um protocolo de governação de 2025 propôs processos de consentimento em camadas como uma abordagem prática para este desafio.

▶ Uma ferramenta de IA que é proibida ao abrigo da Lei da IA da UE pode ser utilizada num contexto de saúde mental se for clinicamente benéfica?

Não. As práticas de IA proibidas são totalmente banidas e não podem ser implementadas independentemente do benefício clínico percebido. A Lei identifica sistemas que exploram vulnerabilidades psicológicas para manipular o comportamento de formas prejudiciais como proibidos. Os chatbots de saúde mental que utilizam diálogo persuasivo ou gamificação para influenciar o comportamento do doente podem cruzar para território proibido dependendo do seu design e contexto de implementação. A distinção entre um sistema proibido e um de alto risco é significativa: os sistemas de alto risco podem ser implementados, mas apenas após satisfazerem requisitos rigorosos de conformidade.

▶ Que questões deve um psiquiatra ou gestor de prática colocar a um fornecedor antes de adquirir uma ferramenta de IA?

No mínimo, deve perguntar se o sistema está classificado como de alto risco ao abrigo da Lei da IA da UE e, se não, que avaliação documentada apoia essa conclusão. Pergunte se se qualifica como dispositivo médico e, se sim, se possui marcação CE. Solicite dados de validação clínica específicos para uma população de saúde mental, incluindo métricas de desempenho desagregadas por subgrupo de doentes. Confirme onde os dados dos doentes são processados e armazenados, e se se aplica a residência de dados na UE. Pergunte que trilho de auditoria o sistema gera, que mecanismos de anulação humana existem, como são geridas as atualizações do modelo e qual é o processo do fornecedor para reportar incidentes envolvendo resultados gerados por IA que possam ter contribuído para danos ao doente.

▶ Como é que a Lei da IA da UE interage com o Regulamento dos Dispositivos Médicos e o RGPD na prática psiquiátrica?

A Lei da IA da UE situa-se ao lado da legislação existente em vez de a substituir. Uma ferramenta de IA utilizada na prática psiquiátrica pode estar simultaneamente sujeita a obrigações de alto risco da Lei da IA da UE, obrigações do Regulamento dos Dispositivos Médicos se se qualificar como Software como Dispositivo Médico, e obrigações do Regulamento Geral sobre a Proteção de Dados dado que os dados de saúde mental são uma categoria especial. Alguns Estados-Membros da UE também impõem restrições nacionais adicionais ao processamento de registos psiquiátricos. A conformidade com um quadro não dispensa as obrigações ao abrigo dos outros. Uma análise jurídica revista por pares notou que a Lei da IA por si só é insuficiente para abordar todas as lacunas legais e éticas específicas da IA em saúde mental.

▶ Quais são os prazos-chave de conformidade da Lei da IA da UE de que os psiquiatras devem estar cientes?

As disposições sobre práticas de IA proibidas entraram em vigor em fevereiro de 2025. As obrigações relativas a modelos de IA de uso geral, incluindo modelos de linguagem de grande escala utilizados como base de ferramentas de IA clínica, entraram em vigor em agosto de 2025. O quadro completo de conformidade de alto risco, cobrindo avaliação de conformidade, documentação, supervisão e obrigações de transparência, aplica-se a partir de agosto de 2026. Uma transição alargada até agosto de 2027 aplica-se especificamente aos sistemas de IA que também são dispositivos médicos regulamentados ao abrigo do Regulamento dos Dispositivos Médicos ou do Regulamento de Dispositivos Médicos para Diagnóstico In Vitro. As ferramentas que estão a ser adquiridas agora terão de cumprir os requisitos completos de conformidade de alto risco até agosto de 2026.

▶ A Lei da IA da UE resolve questões de responsabilidade clínica quando a IA contribui para uma decisão prejudicial em psiquiatria?

Não. Uma análise jurídica revista por pares confirmou que a Lei da IA da UE não resolve questões de responsabilidade clínica quando a IA contribui para uma decisão prejudicial. Os quadros nacionais de responsabilidade médica continuam a governar essas questões de forma independente. A Lei estabelece obrigações de conformidade para fornecedores e implementadores, mas não cria um regime de responsabilidade unificado para danos clínicos relacionados com IA. Os psiquiatras devem procurar aconselhamento jurídico específico para a sua jurisdição ao avaliar a exposição à responsabilidade decorrente da implementação de ferramentas de IA.