Classificação de risco da Lei da IA para ferramentas de saúde mental

A Lei da Inteligência Artificial (IA) da União Europeia (UE) classifica a maioria das ferramentas de IA utilizadas em psiquiatria como de alto risco, impondo obrigações rigorosas de conformidade antes da implementação. Para os psiquiatras que avaliam ou já utilizam ferramentas assistidas por IA, compreender como este regulamento classifica essas ferramentas tem implicações diretas sobre o que pode ser implementado, em que condições e com que obrigações para com os doentes.

Porque é que a saúde mental atrai os requisitos mais exigentes da Lei

A Lei da IA da UE não aplica uma norma uniforme a todas as aplicações de IA na área da saúde. O seu sistema de classificação de risco é sensível ao contexto clínico em que uma ferramenta opera, à natureza das decisões que influencia e às características da população que afeta. A prática de saúde mental situa-se na interseção de vários fatores que atraem consistentemente os requisitos mais exigentes da Lei: a vulnerabilidade da população de doentes, a gravidade dos danos potenciais decorrentes de resultados incorretos da IA e o grau em que as decisões clínicas em psiquiatria dependem de um julgamento matizado, assente na relação terapêutica, que é difícil de auditar ou reverter.

Uma análise revista por pares publicada em 2024 concluiu que a utilização de IA generativa em saúde mental acarreta riscos significativos e que a Lei da IA da UE, embora diretamente aplicável, pode não ser suficiente para colmatar as lacunas legais e éticas específicas que surgem em contextos psiquiátricos. Esta avaliação sublinha porque é que os psiquiatras não podem tratar a conformidade regulamentar como um problema exclusivo do fornecedor.

Como o sistema de classificação de risco funciona na prática

A Lei estabelece um sistema hierarquizado. No topo estão as práticas de IA proibidas, sistemas totalmente banidos. Abaixo disso, a categoria de alto risco acarreta as obrigações de conformidade mais extensas. O Artigo 6 da Lei define duas vias para a classificação de alto risco. A primeira aplica-se quando um sistema de IA é um componente de segurança de um produto já abrangido pela legislação de harmonização da UE listada no Anexo I, que inclui o Regulamento dos Dispositivos Médicos (MDR). A segunda aplica-se quando o sistema se enquadra numa das categorias listadas no Anexo III.

A maioria das ferramentas de IA concebidas para auxiliar no diagnóstico psiquiátrico, prever deterioração, estratificar risco ou apoiar decisões de tratamento atinge o estatuto de alto risco pela via do Artigo 6.º(1)/Anexo I, enquanto componentes de segurança de produtos regulados ao abrigo do MDR. O efeito prático é semelhante, pois aplicam-se as obrigações completas de alto risco, mas a via jurídica é diferente, e essa diferença importa para determinar qual o processo de avaliação de conformidade aplicável.

Os sistemas proibidos não podem ser implementados de todo. Os chatbots de saúde mental que recorrem a diálogo persuasivo ou gamificação para influenciar o comportamento do doente podem cruzar para território proibido ao abrigo da proibição da Lei de exploração de vulnerabilidades psicológicas, dependendo do design específico e do contexto de implementação. Os sistemas de alto risco, pelo contrário, podem ser implementados, mas apenas depois de satisfazerem um conjunto rigoroso de requisitos de conformidade.

Que ferramentas têm maior probabilidade de serem classificadas como de alto risco

Mapear categorias comuns de ferramentas de IA face aos critérios da Lei não é simples, porque a classificação depende do propósito pretendido e do contexto de implementação. Dito isto, vários tipos de ferramentas utilizadas na prática psiquiátrica atraem de forma consistente a designação de alto risco.

As ferramentas de estratificação de risco e triagem, ou seja, os sistemas que avaliam o risco de suicídio, preveem deterioração psiquiátrica ou priorizam doentes para revisão urgente, estão entre os casos mais claros de classificação de alto risco. Uma revisão sistemática publicada em 2026 identificou a prevenção do suicídio e a deteção de crises como um domínio comum para chatbots de IA em saúde mental, precisamente o contexto em que os resultados incorretos têm as consequências mais graves.

As ferramentas de apoio ao diagnóstico que sugerem diagnósticos, diagnósticos diferenciais ou códigos de diagnóstico para condições de saúde mental qualificam-se geralmente como dispositivos médicos e atingem o estatuto de alto risco pela via do Artigo 6.º(1)/Anexo I. A investigação académica sobre agentes de psicoterapia baseados em modelos de linguagem de grande escala destacou a ausência de métodos padronizados de avaliação de segurança para esta categoria e documentou danos causados por chatbots não regulamentados utilizados por populações vulneráveis.

As ferramentas de apoio à decisão clínica enquadram-se igualmente no quadro de alto risco quando recomendam ou influenciam decisões de tratamento num contexto de saúde mental. Isto inclui sugestões de medicação e recomendações de percursos de cuidados. O mesmo se aplica a sistemas de monitorização de humor e sintomas cujos resultados informam diretamente decisões clínicas, em vez de simplesmente registarem dados reportados pelo doente.

Nos termos do Artigo 6.º(4) da Lei, os fornecedores que considerem que o seu sistema do Anexo III não atinge o limiar de alto risco devem documentar essa avaliação. O ónus de demonstrar uma classificação de risco mais baixa recai sobre o fornecedor, não sobre o regulador.

Onde se situam as ferramentas de documentação clínica

Os assistentes de documentação ambiente, ferramentas que transcrevem e estruturam encontros clínicos em notas, cartas de referenciação ou resumos de alta, ocupam uma posição mais contestada no sistema de classificação. A questão de saber se estas ferramentas são automaticamente de alto risco não tem uma resposta única.

Uma ferramenta que transcreve passivamente a fala e apresenta texto não estruturado para um clínico rever e editar situa-se num ponto diferente do espectro de risco do que uma que gera notas clínicas estruturadas, aplica códigos de diagnóstico ou produz resultados que os clínicos habitualmente usam sem modificação significativa. Como confirma a análise académica da Lei da IA na área da saúde, a interação entre a Lei da IA e o MDR é particularmente relevante aqui: se uma ferramenta de documentação se qualificar como Software como Dispositivo Médico ao abrigo do MDR, é provável que atraia também a classificação de alto risco ao abrigo da Lei da IA.

Em psiquiatria, o limiar a partir do qual uma ferramenta de documentação se torna de alto risco é mais baixo do que noutras especialidades, e os psiquiatras deveriam partir desse pressuposto ao avaliar qualquer ferramenta desta categoria. As notas clínicas em psiquiatria são frequentemente usadas para apoiar decisões sobre tratamento compulsivo, avaliações de capacidade e referenciações de salvaguarda. Quando as notas geradas por IA alimentam diretamente essas decisões, mesmo que o clínico as reveja apenas formalmente, a ferramenta está funcionalmente a influenciar uma decisão clínica de alto risco que afeta um indivíduo vulnerável. O facto de uma ferramenta ser comercializada como assistente de documentação em vez de auxiliar de diagnóstico não altera esta realidade funcional.

Requisitos de conformidade e obrigações de transparência que os psiquiatras devem verificar

Para os sistemas de IA classificados como de alto risco, a Lei impõe um conjunto de obrigações que devem ser satisfeitas antes da implementação. Do ponto de vista de um psiquiatra ou gestor de prática que adquire uma ferramenta de IA, os requisitos principais a verificar junto de qualquer fornecedor são os seguintes: documentação técnica abrangente que demonstre o design do sistema, os dados de treino e a validação de desempenho; um processo documentado de gestão de risco alinhado com a norma ISO 14971; mecanismos de supervisão humana que permitam aos clínicos anular ou ignorar os resultados do sistema; e registo automático das operações para apoiar revisão posterior. Quando a ferramenta também se qualifica como dispositivo médico, é necessária a marcação CE ao abrigo do MDR a par da conformidade com a Lei da IA, tratando-se de obrigações paralelas, não alternativas.

A revisão sistemática de 2026 sobre chatbots de saúde mental concluiu que 78,8 por cento dos estudos revistos foram classificados como de alto risco quanto ao rigor da avaliação de cibersegurança, o que indica que testes adversariais formais e análise estruturada de ameaças continuam a ser raros neste domínio. Os psiquiatras devem abordar esta lacuna diretamente com os fornecedores.

As obrigações de transparência são distintas, embora complementares. Quando se aplicam o Artigo 26.º(11) ou o Artigo 50.º, os doentes devem ser informados quando um sistema de IA é usado de uma forma que afeta materialmente os seus cuidados. De forma mais geral, informar os doentes é boa prática mesmo quando a própria Lei da IA não impõe um dever específico de divulgação. Os dados de saúde mental são classificados como uma categoria especial ao abrigo do Regulamento Geral sobre a Proteção de Dados (RGPD), o que significa que a base legal para o tratamento, as políticas de retenção de dados e os direitos dos doentes de acesso e eliminação devem ser claramente estabelecidos. Em psiquiatria, os doentes podem ter condições que afetam a sua capacidade de consentir. Para este desafio, um protocolo de governação de 2025 para psicoterapia habilitada por IA propôs processos de consentimento em camadas, explicitamente alinhados com os requisitos da Lei da IA da UE e do RGPD.

O que perguntar a um fornecedor antes de implementar uma ferramenta de IA

Ao abrigo da Lei, os psiquiatras e gestores de prática são classificados como implementadores de sistemas de IA. Isto cria obrigações legais diretas, mas também os posiciona como compradores informados que devem responsabilizar os fornecedores. As questões que se seguem representam um nível mínimo de diligência devida.

• Este sistema está classificado como de alto risco ao abrigo da Lei da IA da UE? Se não, que avaliação documentada sustenta essa conclusão?

• O sistema qualifica-se como dispositivo médico ao abrigo do MDR? Se sim, possui marcação CE, e que Organismo Notificado conduziu a avaliação de conformidade?

• O sistema foi clinicamente validado numa população de saúde mental, e os dados de validação podem ser partilhados, incluindo métricas de desempenho desagregadas por subgrupo de doentes?

• Onde são tratados e armazenados os dados dos doentes? O fornecedor confirma que os dados permanecem em servidores na UE, e quais são as políticas de retenção e eliminação?

• Que registo de auditoria o sistema gera, e como podem os registos ser acedidos para fins de governação clínica ou revisão legal?

• Como gere o fornecedor as atualizações do modelo, e as versões atualizadas estão sujeitas a revalidação antes da implementação?

• Qual é o processo do fornecedor para comunicar e responder a incidentes em que resultados gerados por IA possam ter contribuído para danos ao doente?

A revisão sistemática sobre chatbots de IA em saúde mental concluiu que a maioria dos sistemas usa modelos de linguagem de uso geral e é disponibilizada através de plataformas voltadas para o consumidor sem supervisão clínica, um padrão incompatível com os requisitos da Lei da IA para sistemas de alto risco em contextos psiquiátricos. A análise de política da Healthy Europe nota que o mercado europeu de aplicações de saúde mental contém milhares de produtos com avaliação clínica limitada ou inexistente, e a presença de um produto no mercado não indica conformidade regulamentar plena, particularmente durante o atual período de transição.

Como a Lei da IA se articula com o MDR, o RGPD e os prazos de transição

A Lei da IA é um regulamento horizontal que se aplica a vários setores e coexiste com a legislação setorial existente, em vez de a substituir. Na prática psiquiátrica, isto significa que uma única ferramenta de IA pode estar simultaneamente sujeita a quatro conjuntos de obrigações: as obrigações de alto risco da Lei da IA da UE, se cumprir os critérios do Anexo III; as obrigações do MDR, se se qualificar como Software como Dispositivo Médico; as obrigações do RGPD, dado que os dados de saúde mental são uma categoria especial; e a legislação nacional sobre dados de saúde mental em alguns Estados-Membros, que pode impor restrições adicionais ao tratamento de registos psiquiátricos. A análise académica da Lei da IA na área da saúde aborda explicitamente a forma como as obrigações da Lei da IA e os requisitos do MDR se relacionam entre si: a conformidade com um quadro não dispensa as obrigações ao abrigo dos restantes.

Quanto aos prazos, as disposições sobre práticas de IA proibidas entraram em vigor em fevereiro de 2025, e as obrigações relativas a modelos de IA de uso geral, incluindo modelos de linguagem de grande escala usados como base de ferramentas de IA clínica, em agosto de 2025. O quadro completo de conformidade de alto risco para os sistemas do Anexo III aplica-se a partir de dezembro de 2027, na sequência do Regulamento Ómnibus da Lei da IA (UE 2026/1744), que entrou em vigor em julho de 2026 e adiou a data inicialmente prevista de agosto de 2026. Uma transição alargada até agosto de 2028 aplica-se especificamente aos sistemas de IA que também são dispositivos médicos regulamentados ao abrigo do MDR ou do Regulamento de Dispositivos Médicos para Diagnóstico In Vitro, extensão que reflete os prazos de avaliação de conformidade mais longos que caracterizam o setor de dispositivos médicos. A orientação oficial da Comissão Europeia nota que o Regulamento do Espaço Europeu de Dados de Saúde, que entrou em vigor em 2025, acrescenta uma camada adicional de governação para a utilização de dados de IA clínica.

Os psiquiatras e gestores de prática a meio de um processo de aquisição ou implementação devem tratar estes prazos como preocupações operacionais ativas. Um guia dirigido a clínicos publicado na Psychiatria Danubina recomendou que os profissionais de saúde desenvolvam familiaridade suficiente com o quadro regulamentar para avaliar criticamente as ferramentas de IA antes da adoção. Uma revisão legislativa publicada na JMIR Mental Health identificou um padrão consistente em que os clínicos permanecem ausentes da formulação de políticas de IA, com o resultado de que os quadros regulamentares divergem das realidades clínicas. O envolvimento ativo dos psiquiatras com estes requisitos, enquanto compradores, implementadores e contribuintes para orientação profissional, é por isso determinante para a forma como estas ferramentas são efetivamente usadas.

Perguntas frequentes

▶ Porque é que as ferramentas de IA utilizadas em contextos de saúde mental enfrentam uma regulamentação mais rigorosa ao abrigo da Lei da IA da UE?

A Lei reconhece explicitamente os doentes de saúde mental como um grupo vulnerável. Esse reconhecimento eleva o peso regulamentar aplicado a qualquer ferramenta que opere neste contexto, mesmo que uma função idêntica noutras especialidades atraísse requisitos mais leves. A vulnerabilidade da população é, por si só, um fator de classificação independente dos riscos técnicos do sistema.

▶ Que ferramentas de IA utilizadas na prática psiquiátrica têm maior probabilidade de serem classificadas como de alto risco?

Ferramentas de estratificação de risco de suicídio, apoio ao diagnóstico, decisão de tratamento e monitorização de sintomas com impacto clínico direto enquadram-se claramente nesta categoria. A via jurídica varia: as ferramentas que se qualificam como dispositivos médicos atingem o estatuto de alto risco pelo Artigo 6.º(1)/Anexo I, enquanto outras chegam lá pelo Anexo III. A via importa porque determina o processo de avaliação de conformidade aplicável.

▶ As ferramentas de documentação clínica, como os escribas ambiente, são automaticamente classificadas como de alto risco em contextos de saúde mental?

A classificação depende do uso real. Uma ferramenta que produz texto não estruturado para revisão ativa do clínico situa-se num ponto diferente do espectro do que uma cujos resultados os clínicos aceitam sem modificação significativa. Em psiquiatria, o limiar é mais baixo do que noutras especialidades, por isso os psiquiatras devem partir do pressuposto de alto risco e verificar com o fornecedor se existe avaliação documentada em contrário.

▶ Que requisitos de conformidade deve uma ferramenta de IA de alto risco cumprir antes de poder ser implementada numa prática psiquiátrica?

Os requisitos incluem documentação técnica abrangente, gestão de risco alinhada com a norma ISO 14971, mecanismos de anulação pelo clínico e registo automático das operações. Quando a ferramenta também é um dispositivo médico, a marcação CE ao abrigo do MDR é obrigatória em paralelo. A revisão sistemática de 2026 sobre chatbots de saúde mental concluiu que testes adversariais formais e análise estruturada de ameaças continuam a ser raros neste domínio, pelo que vale a pena questionar o fornecedor diretamente sobre este ponto.

▶ Que obrigações de transparência se aplicam ao utilizar IA em consultas de saúde mental?

Os artigos 26.º(11) e 50.º exigem informar os doentes quando a IA afeta materialmente os seus cuidados. Em psiquiatria, onde a capacidade de consentir pode estar comprometida, o protocolo de governação de 2025 propôs processos de consentimento em camadas como abordagem prática. Esses processos devem ser documentados e alinhados tanto com a Lei da IA como com o RGPD, que classifica os dados de saúde mental como categoria especial.

▶ Uma ferramenta de IA que é proibida ao abrigo da Lei da IA da UE pode ser utilizada num contexto de saúde mental se for clinicamente benéfica?

Não. As práticas proibidas são banidas sem exceção clínica. O benefício percebido não constitui fundamento legal para a implementação. Chatbots que usem diálogo persuasivo ou gamificação para influenciar o comportamento do doente podem cair nesta categoria, dependendo do design e do contexto concreto de utilização.

▶ Que questões deve um psiquiatra ou gestor de prática colocar a um fornecedor antes de adquirir uma ferramenta de IA?

Peça a classificação de risco documentada, a marcação CE se aplicável, dados de validação clínica desagregados por subgrupo de doentes de saúde mental, confirmação de residência dos dados na UE, descrição do trilho de auditoria, política de revalidação após atualizações do modelo e o processo do fornecedor para reportar incidentes em que resultados gerados por IA possam ter contribuído para danos ao doente.

▶ Como é que a Lei da IA da UE interage com o Regulamento dos Dispositivos Médicos e o RGPD na prática psiquiátrica?

Uma única ferramenta pode estar sujeita a quatro conjuntos de obrigações em simultâneo: Lei da IA, MDR, RGPD e legislação nacional de alguns Estados-Membros sobre registos psiquiátricos. Cumprir um quadro não dispensa os restantes. O ponto prático a reter é que a cadeia de conformidade mais longa determina o prazo efetivo de implementação.

▶ Quais são os prazos-chave de conformidade da Lei da IA da UE de que os psiquiatras devem estar cientes?

Práticas proibidas: fevereiro de 2025. Modelos de IA de uso geral, incluindo modelos de linguagem de grande escala usados como base de ferramentas clínicas: agosto de 2025. Quadro completo de alto risco para sistemas do Anexo III: dezembro de 2027, após o Regulamento Ómnibus (UE 2026/1744). Sistemas de IA que também são dispositivos médicos ao abrigo do MDR ou do Regulamento de Dispositivos Médicos para Diagnóstico In Vitro: agosto de 2028.

▶ A Lei da IA da UE resolve questões de responsabilidade clínica quando a IA contribui para uma decisão prejudicial em psiquiatria?

Não. A Lei estabelece obrigações de conformidade para fornecedores e implementadores, mas não cria um regime de responsabilidade unificado para danos clínicos. Os quadros nacionais de responsabilidade médica continuam a aplicar-se de forma independente. Os psiquiatras devem procurar aconselhamento jurídico específico para a sua jurisdição antes de implementar qualquer ferramenta de IA em contexto clínico.