Uma ferramenta de apoio à decisão clínica (um sistema de software que analisa dados de pacientes para gerar recomendações clínicas) pode passar em todos os testes de qualidade de software realizados por um fornecedor e, ainda assim, ser insegura para os pacientes que um médico de família atende numa manhã de segunda-feira. A lógica pode ser executada sem erros. A interface pode ser responsiva e intuitiva. O pipeline de dados pode estar totalmente operacional. No entanto, se o modelo subjacente foi treinado em pacientes hospitalizados, validado num sistema de saúde não europeu ou nunca testado perante as apresentações indiferenciadas que caracterizam a medicina geral e familiar, a ferramenta pode produzir recomendações sistematicamente enganosas no contexto em que está a ser utilizada. Para os decisores de saúde que avaliam estas ferramentas, seja ao nível da prática, da rede ou do comissionamento, compreender o que é uma validação rigorosa — e o que não é — tornou-se uma responsabilidade central de governação.

Por que razão a validação não é o mesmo que testes de software

Os testes de software confirmam que um sistema se comporta conforme pretendido pelos seus programadores. A validação clínica coloca uma questão diferente: o comportamento pretendido do sistema produz resultados seguros e eficazes para pacientes reais num ambiente clínico real?

A distinção é importante porque uma ferramenta pode ser tecnicamente correta e clinicamente prejudicial ao mesmo tempo. Um algoritmo que calcula com precisão uma pontuação de risco derivada de um conjunto de dados de pacientes hospitalizados norte-americanos pode sistematicamente subestimar ou sobrestimar o risco numa população de cuidados de saúde primários europeia, com dados demográficos, padrões de comorbilidade e comportamento de procura de cuidados diferentes. Uma ferramenta de apoio à decisão de prescrição validada num contexto de cuidados secundários pode gerar alertas calibrados para pacientes acompanhados por especialistas, mas causar fadiga de alertas ou sinais perdidos quando implementada na medicina geral e familiar.

Uma revisão sistemática de abordagens de conceção de sistemas de apoio à decisão clínica, publicada no Journal of Medical Internet Research, identifica a confiança dos clínicos e a explicabilidade como desafios centrais para a adoção. Estes são problemas que resultam de falhas de validação, não de falhas de software. Quando as recomendações de uma ferramenta não correspondem à realidade clínica observada por um médico de família, a confiança é abalada, independentemente de o software estar tecnicamente a funcionar corretamente.

A validação clínica, devidamente compreendida, exige evidências de que uma ferramenta produz resultados precisos, seguros e clinicamente apropriados para a população e contexto específicos em que será utilizada — não apenas evidências de que produz resultados.

O panorama regulamentar: onde o Regulamento de Dispositivos Médicos traça a linha

Nem todas as ferramentas de apoio à decisão clínica são dispositivos médicos ao abrigo do Regulamento de Dispositivos Médicos (RDM) 2017/745 da UE, mas um número significativo e crescente é. A distinção regulamentar crítica está entre ferramentas que fornecem informação clínica geral e aquelas que conduzem ou influenciam diretamente uma decisão clínica para um paciente individual.

Ao abrigo do Regulamento de Dispositivos Médicos (RDM), uma ferramenta de software que analisa dados específicos de pacientes para gerar recomendações de diagnóstico, tratamento, estratificação de risco ou prescrição é suscetível de cumprir a definição de dispositivo médico. Uma vez classificada como tal, deve ostentar a marcação CE, que exige que o fabricante demonstre evidência clínica de segurança e desempenho antes de colocar a ferramenta no mercado europeu.

A partir de 2026, os fabricantes de dispositivos médicos com inteligência artificial (IA, um sistema de software que aprende padrões a partir de dados) enfrentam dupla conformidade ao abrigo do RDM e da Lei da IA da UE. A Lei da IA classifica automaticamente os sistemas de apoio à decisão clínica baseados em IA como de alto risco, desencadeando avaliação de conformidade obrigatória, monitorização de enviesamento, obrigações de transparência e requisitos de supervisão humana que vão além do que o RDM por si só exigia. O quadro de conformidade MyHealth@EU acrescenta uma camada adicional para ferramentas que operam em vários Estados-Membros da UE, exigindo que metadados específicos de IA e documentação de proveniência sejam incorporados nas mensagens de troca de dados clínicos.

A marcação CE não é uma garantia de adequação ao propósito num contexto clínico específico. É uma declaração do fabricante de que o dispositivo cumpre os requisitos regulamentares aplicáveis. A marcação CE é uma condição necessária para a implementação legal na Europa, mas não suficiente para a adoção clínica em qualquer contexto particular.

Uma análise revista por pares publicada na npj Health Systems identifica lacunas significativas nas normas atuais do RDM da UE para sistemas de IA adaptativos e baseados em dados. Estas lacunas significam que algumas ferramentas podem alcançar conformidade regulamentar enquanto ainda carecem da validação clínica rigorosa que a implementação nos cuidados de saúde primários exige.

O que a validação clínica envolve

A validação clínica é um processo estruturado para demonstrar que uma ferramenta funciona conforme pretendido numa população de pacientes definida. Para ferramentas de apoio à decisão clínica, os componentes centrais incluem:

• Evidência de precisão clínica: Desempenho demonstrado face a um padrão de referência, por exemplo, comparação de pontuações de risco com algoritmos validados independentemente ou comparação de recomendações com revisão clínica especializada. Um exemplo inicial desta metodologia aparece numa avaliação de métodos mistos de um sistema de apoio à decisão clínica cardiovascular nos cuidados de saúde primários, onde o algoritmo de avaliação de risco da ferramenta foi comparado com uma versão programada independentemente, alcançando um coeficiente de correlação intraclasse de 0,999, e o aconselhamento de gestão foi revisto em relação a recomendações de médicos a partir de revisão manual de diretrizes.

• Dados de população representativa: Evidência de que o conjunto de dados de validação reflete as características demográficas, clínicas e socioeconómicas da população em que a ferramenta será utilizada. A validação num conjunto de dados restrito ou não representativo limita a generalização das alegações de desempenho.

• Revisão independente: A validação interna pelo fabricante é necessária, mas não suficiente. A publicação revista por pares, auditoria independente ou avaliação por terceiros fornece uma verificação da qualidade metodológica e da integridade das alegações de desempenho.

• Estudos prospetivos ou retrospetivos no contexto-alvo: A análise retrospetiva de dados existentes pode estabelecer o desempenho de base, mas estudos prospetivos, idealmente em contexto de cuidados real, fornecem evidência mais robusta de utilidade clínica no mundo real.

A validação realizada num país ou contexto de cuidados não se transfere automaticamente. Uma revisão de âmbito da implementação de sistemas de apoio à decisão clínica para asma nos cuidados de saúde primários, cobrindo 18 ensaios em contextos como o Reino Unido e Espanha, ilustra como os resultados de implementação variam significativamente entre sistemas de saúde, mesmo dentro da Europa, dependendo da integração no fluxo de trabalho, características da população de pacientes e diretrizes clínicas locais.

Como os cuidados de saúde primários introduzem desafios específicos de validação

A medicina geral e familiar apresenta condições que diferem estruturalmente dos contextos hospitalares e de especialidade em que muitas ferramentas de apoio à decisão clínica são inicialmente desenvolvidas e validadas. Estas diferenças afetam se o desempenho de uma ferramenta num contexto prevê o seu desempenho noutro.

As características dos cuidados de saúde primários que complicam a transferência de validação incluem:

• Apresentações indiferenciadas: Os médicos de família atendem pacientes antes de um diagnóstico ter sido estabelecido. Uma ferramenta validada em diagnósticos codificados de registos de cuidados secundários pode ter um desempenho fraco quando aplicada às apresentações ambíguas, ao nível dos sintomas, que chegam a um consultório de medicina geral e familiar.

• Pressão de tempo e carga cognitiva: A elevada procura de cuidados e estruturas fragmentadas são características reconhecidas dos sistemas de cuidados de saúde primários em toda a Europa. Uma ferramenta que exige entrada significativa de dados ou interrompe o fluxo clínico pode gerar soluções alternativas que minam a sua função pretendida e o desempenho validado.

• Dados demográficos diversos e não selecionados: As populações de validação hospitalares são selecionadas por vias de referenciação e critérios de admissão. As populações de médicos de família não são. Idade, multimorbilidade, literacia em saúde e diversidade socioeconómica nos cuidados de saúde primários podem diferir substancialmente das coortes hospitalares, afetando tanto a prevalência de condições como as taxas de base de que os algoritmos preditivos dependem.

• Integração com sistemas existentes: Um estudo qualitativo de um protótipo de sistema de apoio à decisão clínica na medicina geral e familiar alemã, o projeto SATURN, demonstrou que o co-desenvolvimento iterativo com médicos de família e testes de usabilidade foram essenciais para identificar barreiras de implementação que não teriam sido visíveis num estudo de validação controlado. O desempenho técnico e a usabilidade clínica são dimensões relacionadas, mas distintas, da validação.

Uma revisão de âmbito de sistemas de apoio à decisão clínica de prescrição nos cuidados de saúde primários, publicada no início de 2025, mapeia lacunas de evidência nesta área, concluindo que os dados de impacto de implementação para ferramentas de prescrição nos cuidados de saúde primários permanecem limitados e que os desenhos de estudo variam consideravelmente em rigor, tornando difícil a comparação direta das alegações de validação dos fornecedores.

O papel da evidência do mundo real após a implementação

A validação pré-implementação estabelece uma linha de base de desempenho sob condições controladas ou semi-controladas. Não pode antecipar todos os cenários clínicos, mudanças populacionais ou alterações de diretrizes que ocorrerão uma vez que uma ferramenta esteja em uso ativo. É por isso que o acompanhamento clínico pós-comercialização (PMCF, um processo de recolha sistemática de evidência de desempenho após a implementação) é uma obrigação ao abrigo do RDM para software de dispositivos médicos, não uma atividade opcional de melhoria da qualidade.

O PMCF exige que os fabricantes recolham e revejam sistematicamente evidências do mundo real sobre o desempenho do dispositivo após a implementação. Para ferramentas de apoio à decisão clínica, isto significa:

• Monitorização contínua da precisão das recomendações e taxas de alerta no uso clínico em tempo real

• Vigilância de sinais de segurança emergentes, incluindo padrões de substituição ou não utilização por clínicos que podem indicar erros sistemáticos

• Reavaliação periódica do desempenho à medida que as populações de pacientes mudam ou as diretrizes clínicas são atualizadas

• Documentação de resultados e, quando necessário, ação corretiva

Os requisitos da Lei da IA da UE para avaliação contínua de risco pós-comercialização reforçam e ampliam estas obrigações para ferramentas classificadas como IA, exigindo monitorização de incidentes e alinhamento com a infraestrutura europeia de dados de saúde emergente.

Os decisores de saúde devem perguntar aos fornecedores não apenas que validação pré-implementação foi realizada, mas que infraestrutura de acompanhamento clínico pós-comercialização está em vigor e como os resultados são comunicados às organizações implementadoras. Um fornecedor sem um plano claro de monitorização pós-implementação representa um risco de governação, bem como um risco clínico.

A recolha de evidências do mundo real nos cuidados de saúde primários é estruturalmente difícil. O elevado volume de pacientes, a qualidade variável dos dados nos sistemas de registos médicos e a ausência de medição de resultados padronizada tornam genuinamente desafiante detetar degradação subtil de desempenho em sistemas de apoio à decisão clínica implementados. Isto não reduz a obrigação de recolher tal evidência. Significa que a qualidade dos planos de acompanhamento clínico pós-comercialização varia consideravelmente e deve ser escrutinada em conformidade.

Requisitos de dados: RGPD, residência de dados e transparência de dados de treino

A qualidade de uma ferramenta de apoio à decisão clínica é inseparável da qualidade, proveniência e representatividade dos dados em que foi treinada e testada. Para os decisores de saúde europeus, três questões relacionadas com dados são particularmente importantes.

Conformidade com o Regulamento Geral sobre a Proteção de Dados e uso legal de dados: Os dados de treino para IA clínica devem ter sido obtidos legalmente. Ao abrigo do Regulamento Geral sobre a Proteção de Dados (RGPD), isto normalmente requer consentimento explícito do paciente, uma base legal legítima para o processamento de dados de saúde ou uso de dados devidamente anonimizados. Os fornecedores devem ser capazes de demonstrar, não apenas afirmar, que os seus dados de treino foram obtidos em conformidade com a lei de proteção de dados aplicável. O quadro da Comissão Europeia para IA na saúde posiciona o Espaço Europeu de Dados de Saúde (EHDS), com o Regulamento EHDS a entrar em vigor em 2025 e implementação faseada nos Estados-Membros nos anos seguintes, como o mecanismo primário para o uso legal de dados de saúde para treino e avaliação de IA nos Estados-Membros.

Residência de dados na UE: Onde os dados dos pacientes são processados durante a inferência (quando a ferramenta analisa os dados de um paciente real para gerar uma recomendação) é relevante para a conformidade com o RGPD. Os dados processados fora da UE ou do Espaço Económico Europeu estão sujeitos a restrições de transferência, a menos que existam salvaguardas adequadas. Os decisores de saúde devem confirmar que a infraestrutura de processamento de um fornecedor cumpre os requisitos de residência de dados da UE, não apenas que o fornecedor alega conformidade com o RGPD de forma genérica.

Representatividade dos dados de treino e enviesamento: Uma ferramenta treinada predominantemente em dados de um grupo demográfico, sistema de saúde ou contexto de prevalência de doença pode ter um desempenho diferente — e menos seguro — quando aplicada a uma população distinta. A orientação de dupla conformidade para dispositivos médicos de IA ao abrigo do RDM e da Lei da IA exige agora que os fabricantes documentem a monitorização de enviesamento e demonstrem que os dados de treino eram representativos da população de uso pretendido. Os decisores devem solicitar aos fornecedores esta documentação, em vez de aceitar garantias genéricas.

O que perguntar a um fornecedor antes de adotar uma ferramenta de apoio à decisão clínica

As questões seguintes fornecem um quadro de avaliação prático para médicos de família, gestores de prática e líderes clínicos que avaliam uma ferramenta de apoio à decisão clínica antes da adoção. Cobre as dimensões mais suscetíveis de revelar lacunas entre as alegações de um fornecedor e o rigor da sua base de evidência.

Estatuto regulamentar:

• Esta ferramenta está classificada como dispositivo médico ao abrigo do RDM 2017/745 da UE? Se sim, qual é a sua classificação (Classe I, IIa, IIb ou III)?

• Ostenta marcação CE e pode fornecer a Declaração de Conformidade?

• Foi avaliada ao abrigo da classificação de alto risco da Lei da IA da UE? Se sim, que avaliação de conformidade foi concluída?

Evidência clínica:

• Que estudos de validação clínica foram realizados e estão publicados em revistas científicas com revisão por pares?

• Os estudos de validação foram conduzidos em contextos de cuidados de saúde primários europeus ou noutros contextos?

• Quais eram as características da população de validação, incluindo idade, perfil de comorbilidade, etnia e sistema de saúde?

Desempenho e transparência:

• Que métricas de desempenho são reportadas (sensibilidade, especificidade, valor preditivo positivo, taxas de alerta)?

• A ferramenta pode explicar as suas recomendações em termos que um clínico possa avaliar? A lógica do modelo é transparente ou uma caixa negra?

• Como é o desempenho da ferramenta entre subgrupos demográficos?

Pós-implementação:

• Que plano de acompanhamento clínico pós-comercialização está em vigor e como são reportados os resultados às organizações implementadoras?

• Como são geridas as atualizações do modelo e ocorre revalidação antes de as atualizações serem implementadas?

Dados e integração:

• Onde são processados os dados dos pacientes e isto cumpre os requisitos de residência de dados da UE?

• A ferramenta pode integrar-se com o nosso sistema de registos médicos existente sem exigir entrada significativa de dados adicional?

• Qual é a certificação de segurança da informação do fornecedor (por exemplo, ISO 27001)?

Sinais de alerta: quando as alegações de validação de um fornecedor devem ser escrutinadas

Algumas alegações de validação são tecnicamente corretas, mas praticamente enganosas. Os seguintes padrões devem levar a um escrutínio mais atento por parte dos decisores de saúde.

Validação conduzida exclusivamente fora da Europa. Uma ferramenta validada nos Estados Unidos, Austrália ou noutro sistema de saúde não europeu pode ter sido testada em populações com prevalência de doenças, vias de cuidados e práticas de codificação clínica diferentes. Isto não desqualifica automaticamente a evidência, mas exige que o fornecedor demonstre por que razão os resultados são transferíveis, e não apenas afirme que são. A evidência da implementação de sistemas de apoio à decisão clínica para asma em contextos de cuidados de saúde primários europeus mostra que os resultados variam mesmo dentro da Europa, tornando a validação não europeia uma limitação significativa.

Validação apenas em populações de cuidados secundários ou de especialidade. Pacientes hospitalizados e pacientes referenciados a especialistas não são representativos da população indiferenciada que se apresenta na medicina geral e familiar. Uma ferramenta validada exclusivamente nestes contextos não foi testada nos pacientes para os quais um médico de família a utilizará.

Ausência de revisão independente por pares. Relatórios de validação interna produzidos pelo fabricante não são equivalentes a publicação revista por pares ou auditoria independente. Se um fornecedor não pode apresentar evidência revista externamente, a base de validação deve ser tratada como preliminar.

Lógica de modelo opaca. Se um fornecedor não pode ou não quer explicar como a ferramenta chega às suas recomendações, os clínicos não podem avaliar de forma significativa se uma recomendação é apropriada para um paciente específico. A IA explicável é identificada na literatura de conceção de sistemas de apoio à decisão clínica como um pré-requisito para a confiança dos clínicos e adoção segura — não uma característica desejável, mas um requisito funcional.

Ausência de plano claro de acompanhamento clínico pós-comercialização. Um fornecedor que não pode descrever como monitorizará o desempenho no mundo real após a implementação não cumpriu as suas obrigações de evidência clínica ao abrigo do RDM. Esta é uma lacuna regulamentar, além de um risco clínico.

Alegações de conformidade com a Lei da IA sem especificações. Dado que os requisitos de avaliação de conformidade da Lei da IA para sistemas de alto risco incluem monitorização de enviesamento, documentação de transparência e mecanismos de supervisão humana, uma alegação geral de conformidade sem documentação de suporte deve ser tratada como não verificada.

A camada de aquisição e governação: quem mais precisa de estar envolvido

Adotar uma ferramenta de apoio à decisão clínica não é uma decisão que possa ou deva recair sobre um único médico de família ou gestor de prática. Envolve dimensões clínicas, legais, de governação da informação e de risco organizacional que requerem contributos de múltiplos papéis.

A investigação sobre implementação de sistemas de apoio à decisão clínica nos cuidados de saúde primários holandeses identifica o envolvimento de múltiplas partes interessadas como um dos dois mecanismos centrais que apoiam a implementação bem-sucedida, juntamente com o co-desenvolvimento iterativo. O estudo concluiu que envolver partes interessadas multinível, inovadoras e influentes desde o início, e manter o alinhamento através de um ator orquestrador, eram pré-requisitos práticos para implementação sustentável. As decisões tomadas sem esta amplitude de contributos tendem a originar problemas mais tarde, a maior custo.

Nos sistemas de saúde europeus, os papéis de governação tipicamente envolvidos na aquisição de sistemas de apoio à decisão clínica incluem:

• Responsáveis pela segurança clínica: Responsáveis por avaliar o risco clínico e garantir que a implementação de uma ferramenta não introduz riscos para a segurança do paciente. Em Inglaterra, esta função é formalizada ao abrigo da norma de gestão de risco clínico DCB0160. Existem quadros equivalentes nos Estados-Membros da UE.

• Responsáveis pela governação da informação: Responsáveis por avaliar a conformidade com o RGPD, acordos de processamento de dados e residência de dados. Os acordos de processamento de dados dos fornecedores devem ser revistos por esta função antes de quaisquer dados de pacientes serem partilhados com uma ferramenta.

• Organismos de comissionamento e compradores do sistema de saúde: Nos sistemas de saúde europeus financiados publicamente, a aquisição de software clínico envolve tipicamente processos formais de concurso, painéis de avaliação clínica e avaliações de impacto orçamental. A evidência de validação deve ser submetida como parte destes processos, não tratada como uma consideração pós-contrato.

• Equipas de informática clínica e sistemas de registos médicos: A integração com sistemas de registos médicos existentes é uma questão de governação técnica e clínica. Uma ferramenta que não pode aceder de forma fiável aos dados de que necessita, ou que introduz novos encargos de entrada de dados, não terá o desempenho validado.

O quadro de avaliação pré-implementação proposto no modelo RISED para sistemas de apoio à decisão de IA de alto risco na saúde recomenda tratar a avaliação de conformidade, revisão de transparência e conceção de supervisão humana como componentes integrados de um único processo pré-implementação, não etapas sequenciais geridas por equipas separadas. Para os decisores de saúde, isto significa construir um processo de avaliação interfuncional antes de uma decisão de aquisição ser tomada, não depois de um contrato ser assinado.

A evidência de validação, neste contexto, não é um documento a ser arquivado. É a fundação sobre a qual assentam a governação clínica, a segurança do paciente e a responsabilização organizacional.

Perguntas frequentes

Qual é a diferença entre testes de software e validação clínica para uma ferramenta de apoio à decisão clínica?

Os testes de software confirmam que um sistema se comporta conforme pretendido pelos seus programadores. A validação clínica pergunta se esse comportamento pretendido produz resultados seguros e eficazes para pacientes reais num ambiente clínico real. Uma ferramenta pode ser tecnicamente correta e clinicamente prejudicial ao mesmo tempo. Por exemplo, um algoritmo que calcula com precisão uma pontuação de risco derivada de dados hospitalares norte-americanos pode sistematicamente subestimar ou sobrestimar o risco numa população de cuidados de saúde primários europeia, com dados demográficos e comportamento de procura de cuidados diferentes.

Quando é que uma ferramenta de apoio à decisão clínica se qualifica como dispositivo médico ao abrigo dos regulamentos da UE?

Ao abrigo do Regulamento de Dispositivos Médicos (RDM) 2017/745 da UE, uma ferramenta de software que analisa dados específicos de pacientes para gerar recomendações de diagnóstico, tratamento, estratificação de risco ou prescrição é suscetível de cumprir a definição de dispositivo médico. Uma vez classificada como tal, deve ostentar marcação CE, que exige que o fabricante demonstre evidência clínica de segurança e desempenho antes de colocar a ferramenta no mercado europeu. A partir de 2026, os dispositivos médicos com IA também enfrentam dupla conformidade ao abrigo do RDM e da Lei da IA da UE.

A marcação CE garante que uma ferramenta de apoio à decisão clínica é segura para usar na minha prática?

Não. A marcação CE é uma declaração do fabricante de que o dispositivo cumpre os requisitos regulamentares aplicáveis. É uma condição necessária para a implementação legal na Europa, mas não suficiente para a adoção clínica em qualquer contexto particular. Uma análise revista por pares publicada na npj Health Systems identifica lacunas significativas nas normas atuais do RDM da UE para sistemas de IA adaptativos e baseados em dados, o que significa que algumas ferramentas podem alcançar conformidade regulamentar enquanto ainda carecem da validação clínica rigorosa que a implementação nos cuidados de saúde primários exige.

Por que razão é particularmente desafiante validar uma ferramenta de apoio à decisão clínica para a medicina geral e familiar?

A medicina geral e familiar apresenta condições que diferem estruturalmente dos contextos hospitalares e de especialidade onde muitas ferramentas são inicialmente desenvolvidas. Os médicos de família atendem pacientes antes de um diagnóstico ter sido estabelecido, pelo que uma ferramenta validada em diagnósticos codificados de registos de cuidados secundários pode ter um desempenho fraco perante as apresentações ambíguas, ao nível dos sintomas, que chegam a um consultório de medicina geral e familiar. As populações de cuidados de saúde primários também são mais diversas em idade, multimorbilidade e contexto socioeconómico do que as coortes hospitalares, o que afeta as taxas de base de que os algoritmos preditivos dependem.

O que significa acompanhamento clínico pós-comercialização para ferramentas de apoio à decisão clínica e por que razão é importante?

O acompanhamento clínico pós-comercialização (PMCF) é uma obrigação ao abrigo do RDM para software de dispositivos médicos. Exige que os fabricantes recolham e revejam sistematicamente evidências do mundo real sobre o desempenho do dispositivo após a implementação. Para ferramentas de apoio à decisão clínica, isto inclui monitorização contínua da precisão das recomendações e taxas de alerta, vigilância de padrões de substituição por clínicos que podem indicar erros sistemáticos e reavaliação periódica à medida que as populações de pacientes mudam ou as diretrizes clínicas são atualizadas. Um fornecedor sem um plano claro de monitorização pós-implementação representa um risco de governação, bem como um risco clínico.

Que questões relacionadas com dados devem os decisores de saúde colocar antes de adotar uma ferramenta de apoio à decisão clínica?

Três questões são particularmente importantes. Primeiro, os dados de treino foram obtidos legalmente ao abrigo do Regulamento Geral sobre a Proteção de Dados (RGPD), que requer consentimento explícito do paciente, uma base legal legítima ou anonimização adequada? Segundo, onde são processados os dados dos pacientes durante a inferência e isto cumpre os requisitos de residência de dados da UE? Terceiro, o fornecedor fornece documentação mostrando que os dados de treino eram representativos da população de uso pretendido e que a monitorização de enviesamento está em vigor? Garantias genéricas de conformidade com o RGPD não substituem respostas específicas a cada uma destas questões.

Quais são os sinais de alerta que devem levar a um escrutínio mais atento das alegações de validação de um fornecedor?

Vários padrões devem levar a um escrutínio mais atento. A validação realizada exclusivamente fora da Europa pode não se transferir para populações de cuidados de saúde primários europeus. A validação apenas em populações de cuidados secundários ou de especialidade significa que a ferramenta não foi testada nos pacientes indiferenciados para os quais um médico de família a utilizará. A ausência de revisão independente por pares significa que a base de evidência deve ser tratada como preliminar. A lógica de modelo opaca impede os clínicos de avaliar se uma recomendação é apropriada para um paciente específico. E um fornecedor que não pode descrever o seu plano de acompanhamento clínico pós-comercialização não cumpriu as suas obrigações de evidência clínica ao abrigo do RDM.

Quem deve estar envolvido na decisão de adotar uma ferramenta de apoio à decisão clínica?

Adotar uma ferramenta de apoio à decisão clínica não é uma decisão que possa recair sobre um único médico de família ou gestor de prática. Envolve dimensões clínicas, legais, de governação da informação e de risco organizacional. Os papéis de governação tipicamente envolvidos incluem responsáveis pela segurança clínica, responsáveis pela governação da informação, organismos de comissionamento e equipas de informática clínica responsáveis pela integração do sistema de registos médicos. A investigação sobre implementação de sistemas de apoio à decisão clínica nos cuidados de saúde primários holandeses identifica o envolvimento de múltiplas partes interessadas como um dos dois mecanismos centrais que apoiam a implementação bem-sucedida, juntamente com o co-desenvolvimento iterativo.

Que evidência clínica deve um fornecedor ser capaz de fornecer antes de uma ferramenta ser adotada?

Os fornecedores devem ser capazes de fornecer publicação revista por pares de estudos de validação clínica, detalhes da população de validação incluindo idade, perfil de comorbilidade, etnia e sistema de saúde, e métricas de desempenho como sensibilidade, especificidade e valor preditivo positivo. Estudos realizados em contextos de cuidados de saúde primários europeus têm mais peso do que aqueles realizados noutros contextos. Relatórios de validação interna produzidos pelo fabricante não são equivalentes a evidência revista independentemente e devem ser tratados como preliminares se nenhuma revisão externa estiver disponível.

Como é que a Lei da IA da UE altera os requisitos de conformidade para ferramentas de apoio à decisão clínica?

A Lei da IA da UE classifica automaticamente os sistemas de apoio à decisão clínica baseados em IA como de alto risco. Isto desencadeia avaliação de conformidade obrigatória, monitorização de enviesamento, obrigações de transparência e requisitos de supervisão humana que vão além do que o RDM por si só exigia. A partir de 2026, os fabricantes de dispositivos médicos com IA enfrentam dupla conformidade ao abrigo do RDM e da Lei da IA. Uma alegação geral de conformidade com a Lei da IA sem documentação de suporte deve ser tratada como não verificada, dado que os requisitos de avaliação de conformidade incluem monitorização de enviesamento, documentação de transparência e mecanismos de supervisão humana.