Assinar um contrato para uma ferramenta de IA pode parecer a linha de chegada de um processo de aquisição, mas para os gestores de consultórios de medicina geral é mais o ponto de partida. Uma vez assinado o contrato e implementada a ferramenta, as obrigações clínicas, legais e regulamentares associadas a essa implementação recaem firmemente sobre o consultório, não sobre o fornecedor. A implementação de IA está a ultrapassar a avaliação robusta no mundo real e a regulamentação, criando riscos reais para consultórios que não realizam uma devida diligência rigorosa. Este guia apresenta as questões específicas que os gestores de consultórios devem colocar e os documentos que devem analisar antes de qualquer contrato ser assinado.

A ferramenta está classificada como dispositivo médico e o que isso significa para si

Nem todas as ferramentas de IA utilizadas em contexto clínico são dispositivos médicos, mas muitas são. A distinção tem um peso regulamentar significativo. No Reino Unido, a Medicines and Healthcare products Regulatory Agency (MHRA) classifica software como dispositivo médico. Se uma ferramenta de IA apoia o diagnóstico clínico, decisões de triagem ou recomendações de tratamento, é provável que se enquadre na definição de Software as a Medical Device (SaMD) e exija marcação UKCA ou CE ao abrigo do Regulamento de Dispositivos Médicos (MDR).

Antes de assinar, os gestores de consultórios devem:

• Pesquisar na Base de Dados de Produtos e Registo da MHRA (PARD) para confirmar se a ferramenta está registada como dispositivo médico

• Perguntar diretamente ao fornecedor sobre o seu estado de registo na MHRA e classe do dispositivo

• Verificar se a ferramenta tem uma avaliação NICE, um Medtech Innovation Briefing (MIB), Diagnostics Guidance (DG) ou Early Value Assessment (EVA)

• Confirmar se a ferramenta possui uma marcação UKCA ou CE válida caso esteja classificada como dispositivo médico

O GP Mythbuster 109 sobre IA da CQC, publicado em julho de 2025, deixa claro que os inspetores verificarão se os consultórios confirmaram o registo na MHRA quando aplicável e se a aquisição foi realizada de acordo com as normas DCB0160 e Digital Technology Assessment Criteria (DTAC). As ferramentas que não estão classificadas como dispositivos médicos não estão isentas de escrutínio. Continuam a ter obrigações de proteção de dados, segurança clínica e governação.

Quem detém a responsabilidade clínica e legal se algo correr mal

Esta é uma das questões mais relevantes em qualquer contrato de ferramenta de IA. Os acordos com fornecedores frequentemente a tornam pouco clara. A posição geral nos cuidados de saúde primários do NHS é que as organizações do NHS podem ainda ser responsabilizadas por reclamações relacionadas com IA, mesmo quando utilizam ferramentas de terceiros. A responsabilidade pela utilização de uma solução de IA não conforme recai sobre a organização implementadora ou o clínico individual.

Os fornecedores normalmente limitam a sua responsabilidade ao desempenho do software conforme descrito no contrato. Não aceitam responsabilidade por decisões clínicas tomadas com base em resultados de IA. Isto significa que, se uma nota clínica gerada por IA contiver um erro que influencie os cuidados ao doente, o consultório, e não o fornecedor, provavelmente arcará com as consequências clínicas e legais.

Ao rever os termos contratuais, os gestores de consultórios devem procurar:

• Declarações claras sobre onde recai a responsabilidade clínica e se o fornecedor aceita alguma responsabilidade por resultados gerados por IA que entrem no registo do doente

• Cláusulas de indemnização e se a indemnização do fornecedor cobre incidentes clínicos ou está limitada a falhas de desempenho do software

• Se os termos do fornecedor exigem que o consultório mantenha supervisão humana de todos os resultados de IA e que documentação dessa supervisão é esperada

• Se a organização de defesa médica ou o prestador de indemnização do consultório foi consultado sobre a utilização da ferramenta

Os LMCs de Surrey & Sussex aconselham os consultórios a envolver o seu Integrated Care Board (ICB) e a assegurar que todos os resultados gerados por IA são verificados por um clínico antes de entrarem no registo do doente. Este requisito de intervenção humana não é apenas boa prática; é uma condição para implementação segura segundo as orientações atuais do NHS.

Onde são processados e armazenados os dados dos doentes

A localização dos dados é uma questão fundamental em qualquer aquisição de IA clínica. As respostas dos fornecedores nem sempre são diretas. Ao abrigo do Regulamento Geral de Proteção de Dados do Reino Unido (RGPD) e do dever de confidencialidade do common law, os dados dos doentes são dados de categoria especial. O seu processamento deve ser legal, transparente e proporcional. Se os dados dos doentes, incluindo gravações áudio de consultas, forem transferidos para fora do Reino Unido ou da UE, são necessárias salvaguardas adicionais.

As orientações do NHS England sobre produtos de transcrição ambiente confirmam que uma Avaliação de Impacto sobre a Proteção de Dados (DPIA) é muito provavelmente um requisito legal antes da implementação, dado o processamento em larga escala de dados de saúde de categoria especial envolvido. As orientações de governação de informação da NHS Transformation Directorate reforçam este ponto. As DPIAs devem abordar os tipos de dados a serem processados (incluindo áudio e transcrições), a reutilização de dados pelo fornecedor para treino de modelos de IA e as obrigações de transparência para com os doentes.

Questões-chave a colocar aos fornecedores antes de assinar:

• Onde são processados os dados dos doentes? No Reino Unido, na UE ou num país terceiro?

• Quem são os subprocessadores do fornecedor e onde estão localizados?

• O fornecedor utiliza dados de consultas de doentes para treinar ou melhorar os seus modelos de IA e, em caso afirmativo, com que base legal?

• Está incluído um Acordo de Processamento de Dados (DPA) no contrato e está em conformidade com o Artigo 28 do RGPD do Reino Unido?

• Qual é a distinção entre dados anonimizados e pseudonimizados no processamento do fornecedor e qual é o risco residual de reidentificação?

O comentário jurídico da Spencer West LLP observa que a distinção entre dados anonimizados e pseudonimizados é particularmente importante neste contexto. Os dados pseudonimizados mantêm um risco residual de reidentificação e não podem ser tratados como estando fora do âmbito da lei de proteção de dados.

Que certificações de segurança deve o fornecedor deter

As certificações de segurança não são garantia absoluta, mas a sua ausência é um sinal relevante sobre a maturidade e o investimento de um fornecedor em proteção de dados. Para ferramentas de IA clínica utilizadas nos cuidados de saúde primários do NHS, existe um conjunto de certificações e avaliações que um fornecedor credível deve poder apresentar.

Os consultórios devem esperar que os fornecedores detenham ou estejam ativamente a trabalhar para obter:

• ISO 27001 (a norma internacional para sistemas de gestão de segurança da informação)

• Conformidade com o NHS Data Security and Protection (DSP) Toolkit (o próprio quadro do NHS para avaliar a segurança de dados, que é um requisito contratual para organizações que acedem a dados de doentes do NHS)

• Cyber Essentials ou Cyber Essentials Plus (a certificação básica de cibersegurança do governo do Reino Unido)

• Conformidade DTAC (o quadro do NHS England que cobre proteção de dados, segurança técnica, interoperabilidade e segurança clínica)

O guia de aquisição da iatroX para compradores do NHS recomenda que os consultórios assegurem que um fornecedor tem um pacote DTAC aprovado antes da implementação. As orientações do NHS England sobre transcrição ambiente também sinalizam riscos de cibersegurança específicos a modelos de linguagem de grande dimensão (LLMs), incluindo o potencial para ataques de injeção de prompts e fuga de dados através de resultados do modelo.

Um fornecedor que não consiga apresentar evidência destas certificações, ou que não forneça uma submissão atual do DSP Toolkit, deve ser tratado com cautela, independentemente de quão convincente seja a sua demonstração de produto.

Como se integra a ferramenta com o seu sistema de registo médico existente

A maioria dos consultórios de medicina geral em Inglaterra utiliza EMIS Web ou SystmOne como sistema de registo médico principal. O valor prático de uma ferramenta de IA, particularmente um escriba ambiente ou assistente de documentação, depende fortemente de quão bem se integra com o sistema existente do consultório. A integração que exige copiar e colar manualmente o conteúdo gerado por IA no registo médico aumenta significativamente o risco de erros de transcrição e elimina grande parte do benefício de eficiência.

Antes de assinar, os gestores de consultórios devem estabelecer:

• Se a ferramenta tem uma integração nativa e certificada com EMIS Web ou SystmOne, ou se depende de uma solução alternativa

• Quem é responsável por manter a integração quando o fornecedor do sistema de registo médico lança atualizações: o fornecedor de IA, o prestador ou o consultório

• Se a integração foi testada num ambiente de medicina geral real, não apenas num ambiente de desenvolvimento ou de cuidados secundários

• Qual é o processo de contingência se a integração falhar durante uma sessão clínica

O guia da iatroX sobre ferramentas de IA para consultórios de medicina geral do Reino Unido destaca a integração do sistema de registo médico como um dos principais critérios de avaliação para escribas ambiente. As decisões de aquisição devem considerar o custo total de propriedade, incluindo o ajuste de fluxo de trabalho necessário quando a integração é imperfeita. As falhas de integração não são apenas um inconveniente técnico. Num contexto clínico, podem criar lacunas no registo do doente ou introduzir erros com implicações para a segurança do doente.

O que acontece aos seus dados se terminar o contrato

A portabilidade e eliminação de dados no término do contrato são áreas onde os contratos com fornecedores são frequentemente vagos. Os consultórios podem encontrar-se numa posição difícil se não tiverem negociado termos claros antecipadamente. As questões a resolver antes de assinar são:

• Durante quanto tempo o fornecedor retém os dados dos doentes após o término do contrato e com que base legal?

• O consultório pode exportar uma cópia completa de todos os dados de doentes detidos pelo fornecedor antes do término?

• O que significa realmente "eliminação mediante pedido"? Cobre todas as cópias, incluindo backups e dados de subprocessadores?

• Qual é o prazo para eliminação confirmada e o fornecedor fornecerá confirmação por escrito?

Ao abrigo do RGPD do Reino Unido, os titulares de dados têm direitos, incluindo o direito ao apagamento. O consultório, como responsável pelo tratamento de dados, é responsável por assegurar que esses direitos podem ser exercidos mesmo após o término de uma relação com um fornecedor. A privacidade e segurança ao longo do ciclo de vida dos dados de saúde é uma área de crescente escrutínio regulamentar. Consultórios que não conseguem justificar o destino dos dados dos doentes após o término de um contrato com um fornecedor podem enfrentar riscos de conformidade.

Os termos contratuais que permitem aos fornecedores reter dados por períodos prolongados após o término para fins de "melhoria de produto" ou "treino de modelo" devem ser sinalizados para revisão jurídica antes da assinatura.

A ferramenta de IA foi treinada com dados clínicos do NHS ou equivalentes

Os dados de treino utilizados para desenvolver uma ferramenta de IA têm uma influência direta na sua precisão clínica em contexto de cuidados de saúde primários do Reino Unido. Uma ferramenta treinada predominantemente com dados clínicos dos EUA, por exemplo, pode ter um desempenho fraco em codificação clínica específica do Reino Unido (SNOMED CT, como utilizado no NHS), nomes de medicamentos e convenções de dosagem, vias de referenciação ou o estilo particular de documentação de consultas de medicina geral.

As perspetivas de clínicos sobre IA nos cuidados de saúde primários levantam consistentemente preocupações sobre enviesamentos introduzidos através de dados de treino. Laranjo et al., na Lancet Primary Care, observaram que a implementação rápida antes de avaliação robusta levanta preocupações sobre consequências não intencionais na qualidade dos cuidados. Estes não são riscos abstratos. Traduzem-se diretamente na precisão de notas clínicas, na adequação de códigos clínicos sugeridos e na fiabilidade de quaisquer resultados de apoio à decisão.

Ao avaliar as alegações de dados de treino de um fornecedor, os gestores de consultórios devem perguntar:

• O modelo foi treinado com dados do NHS ou de cuidados de saúde primários do Reino Unido, e o fornecedor pode fornecer documentação disso?

• O modelo foi validado especificamente com dados de consultas de medicina geral do Reino Unido?

• O fornecedor publica um cartão de modelo ou documentação técnica equivalente descrevendo fontes de dados de treino, limitações conhecidas e benchmarks de desempenho?

• Como o modelo lida com terminologia clínica específica do Reino Unido, nomes de medicamentos e convenções de referenciação?

Os fornecedores devem ser capazes de responder a estas questões com evidência documentada, não apenas alegações de marketing. Quando um fornecedor não consegue fornecer esta informação, trata-se de uma lacuna significativa na sua base de evidência clínica.

Quem no consultório é responsável por supervisionar a ferramenta

A governação de ferramentas de IA não é uma decisão de aquisição pontual. É uma responsabilidade operacional contínua. O GP Mythbuster 109 da CQC estabelece o que os inspetores procurarão, incluindo a nomeação de um Clinical Safety Officer (CSO), a manutenção de uma avaliação de risco e registo de perigos, e evidência de que a supervisão humana de resultados de IA está incorporada nos fluxos de trabalho do consultório.

O requisito de nomear um CSO ao nível do consultório é reconhecido pelos LMCs de Surrey & Sussex como um desafio prático para consultórios mais pequenos. Trata-se de uma expectativa regulamentar, não de uma melhoria opcional. O CSO não precisa de ser uma função a tempo inteiro, mas o consultório deve ser capaz de identificar um indivíduo nomeado que detenha esta responsabilidade e possa demonstrar que a está a cumprir.

A documentação de governação que o consultório deve manter inclui:

• Um caso de segurança clínica DCB0160 completo para a implementação da ferramenta

• Uma avaliação de risco e registo de perigos, revistos regularmente e atualizados quando a ferramenta muda

• Registos de formação de clínicos sobre a ferramenta, incluindo consciência das suas limitações

• Um registo de quaisquer incidentes ou quase-incidentes envolvendo resultados gerados por IA

• Evidência de que todo o conteúdo gerado por IA que entra no registo do doente foi revisto por um clínico

Esta documentação não é apenas relevante para inspeção da CQC. É a base de evidência que protege o consultório se ocorrer um incidente clínico e forem levantadas questões sobre como a ferramenta foi implementada e supervisionada.

Como é o suporte e resposta a incidentes do fornecedor

Um Acordo de Nível de Serviço (SLA) é um componente padrão de qualquer contrato de software, mas para ferramentas de IA clínica os riscos de uma falha de suporte são mais elevados do que para a maioria dos softwares. Se um escriba ambiente falhar a meio de uma consulta, ou se uma nota gerada por IA contiver um erro sistemático que não seja detetado imediatamente, o consultório precisa de saber que o fornecedor responderá rapidamente e com compreensão clínica.

Antes de assinar, os gestores de consultórios devem rever:

• Tempos de resposta e resolução no SLA, e se estes diferenciam entre incidentes de segurança clínica e problemas técnicos gerais

• Se o fornecedor tem um contacto nomeado para consultórios de medicina geral, ou se o suporte é encaminhado através de um helpdesk genérico

• Qual é o processo do fornecedor para notificar consultórios de um incidente de segurança clínica, incluindo com que rapidez comunicarão e que informação fornecerão

• Se o fornecedor tem um processo documentado de reporte de incidentes de segurança clínica que cumpre as normas do NHS

As orientações do NHS England sobre produtos de transcrição ambiente exigem que os acordos contratuais definam claramente papéis, responsabilidades e obrigações, incluindo resposta a incidentes. Um fornecedor que não consegue articular um processo claro de incidentes de segurança clínica não está pronto para implementação num contexto de cuidados de saúde primários.

A ferramenta foi avaliada num contexto real de cuidados de saúde primários

Esta é uma questão para a qual muitos fornecedores têm dificuldade em apresentar evidência sólida. A diferença entre uma demonstração convincente e uma avaliação revista por pares num ambiente de medicina geral real é significativa. A investigação sobre escribas de IA nos cuidados de saúde primários começou a documentar experiências de prestadores e preocupações éticas em contextos do mundo real, mas a base de evidência permanece limitada e, em grande parte, exploratória.

A revisão da Frontiers in Health Services dos quadros de aquisição de IA do NHS recomenda que a documentação de conformidade do fornecedor inclua evidência clínica, não apenas certificações técnicas. Os gestores de consultórios devem pedir aos fornecedores que forneçam:

• Estudos publicados revistos por pares ou resultados de pilotos documentados de ambientes de medicina geral ou cuidados de saúde primários

• Estudos de caso de contextos de cuidados de saúde primários do Reino Unido com resultados mensuráveis (tempo de documentação, precisão clínica, satisfação do clínico)

• Evidência de avaliação contra fluxos de trabalho específicos do NHS e sistemas de registo médico

• Quaisquer limitações conhecidas ou modos de falha identificados durante testes no mundo real

A evidência de cuidados secundários ou contextos internacionais de cuidados de saúde primários não se transfere diretamente para a medicina geral do Reino Unido. As estruturas de consulta, convenções de documentação e requisitos regulamentares diferem de forma significativa. Uma ferramenta que tem bom desempenho num contexto de ambulatório hospitalar ou nos cuidados de saúde primários dos EUA pode não apresentar desempenho equivalente num consultório de medicina geral do Reino Unido.

Há também uma lacuna de evidência mais ampla a reconhecer. Como Laranjo et al., na Lancet, observam, a implementação de IA nos cuidados de saúde primários está atualmente a ultrapassar a avaliação robusta necessária para compreender o seu impacto no mundo real. Isto não significa que os consultórios devam evitar ferramentas de IA, mas as alegações dos fornecedores devem ser escrutinadas cuidadosamente e a monitorização pós-implementação é essencial.

Uma lista de verificação pré-assinatura para gestores de consultórios de medicina geral

A seguinte lista de verificação consolida os principais pontos abordados neste artigo. Utilize-a como referência prática antes de assinar qualquer contrato para uma ferramenta de IA.

Regulamentação e segurança clínica

• [ ] Estado de registo na MHRA e classe de dispositivo confirmados (pesquisar PARD se aplicável)

• [ ] Fornecedor detém documentação de caso de segurança clínica DCB0129

• [ ] Consultório completou ou iniciou caso de segurança clínica DCB0160 para implementação

• [ ] Avaliação DTAC completada e aprovada pelo fornecedor

• [ ] Avaliação NICE verificada (MIB, DG ou EVA), se aplicável

Proteção de dados e governação da informação

• [ ] DPIA completada antes da implementação

• [ ] Acordo de Processamento de Dados incluído no contrato, em conformidade com o Artigo 28 do RGPD do Reino Unido

• [ ] Residência de dados confirmada (processamento e armazenamento no Reino Unido ou UE)

• [ ] Subprocessadores identificados e avaliados

• [ ] Política do fornecedor sobre utilização de dados de doentes para treino de modelo revista e acordada

• [ ] Termos de eliminação e portabilidade de dados confirmados no término do contrato

Segurança

• [ ] Certificação ISO 27001 confirmada

• [ ] Conformidade com NHS DSP Toolkit confirmada

• [ ] Cyber Essentials ou Cyber Essentials Plus confirmado

• [ ] Secção de cibersegurança DTAC aprovada

Responsabilidade e contratação

• [ ] Alocação de responsabilidade claramente definida no contrato

• [ ] Cláusulas de indemnização revistas (âmbito confirmado)

• [ ] Organização de defesa médica ou prestador de indemnização consultado

• [ ] Papéis, responsabilidades e resposta a incidentes definidos no contrato

Integração do sistema de registo médico

• [ ] Integração nativa com EMIS Web ou SystmOne confirmada

• [ ] Responsabilidade de manutenção da integração definida

• [ ] Testada em ambiente de medicina geral do Reino Unido ao vivo

Governação

• [ ] Clinical Safety Officer nomeado ao nível do consultório

• [ ] Avaliação de risco e registo de perigos iniciados

• [ ] Plano de formação de clínicos implementado

• [ ] Revisão humana de todos os resultados de IA confirmada como requisito de fluxo de trabalho

Evidência e suporte

• [ ] Evidência clínica de contextos de cuidados de saúde primários do Reino Unido revista

• [ ] SLA revisto (tempos de resposta a incidentes de segurança clínica confirmados)

• [ ] Contacto nomeado do fornecedor para consultórios de medicina geral confirmado

• [ ] Origem dos dados de treino documentada pelo fornecedor

Assinar com confiança, não apenas rapidez

A aquisição de IA na medicina geral é uma decisão de governação clínica tanto quanto operacional. As ferramentas disponíveis em 2025 e 2026 oferecem potencial genuíno para reduzir a carga de documentação e apoiar clínicos, mas esse potencial só é realizado com segurança quando o consultório verifica a conformidade regulamentar, as obrigações de proteção de dados, a alocação de responsabilidade e a evidência clínica antes de a implementação começar.

O relato da Digital Health sobre aquisição de IA no NHS capta claramente a realidade regulamentar atual: as normas existentes não foram concebidas para sistemas de IA em aprendizagem. O ritmo da atividade dos fornecedores nos cuidados de saúde primários significa que os consultórios precisam de ser, nas palavras do Chief Clinical Information Officer nacional do NHS England, "robustos em assegurar que o que estamos a fazer é seguro, garantido e vai proporcionar benefício."

As questões e verificações neste artigo não são obstáculos à adoção. São a base sobre a qual a adoção segura, eficaz e defensável é construída. Um fornecedor que não consegue respondê-las claramente e com evidência documentada não está pronto para ser implementado num contexto clínico. Um consultório que não as colocou está a assumir um risco de que pode ainda não estar consciente.

Perguntas frequentes

▶ Uma ferramenta de IA utilizada num consultório de medicina geral precisa de estar registada como dispositivo médico

Depende do que a ferramenta faz. Se apoia o diagnóstico clínico, decisões de triagem ou recomendações de tratamento, é provável que seja classificada como Software as a Medical Device pela Medicines and Healthcare products Regulatory Agency e exija marcação UKCA ou CE ao abrigo do Regulamento de Dispositivos Médicos. Os gestores de consultórios devem pesquisar na Base de Dados de Produtos e Registo da MHRA para confirmar o estado de registo de uma ferramenta antes de assinar qualquer contrato. As ferramentas que não estão classificadas como dispositivos médicos ainda têm obrigações de proteção de dados, segurança clínica e governação.

▶ Quem é responsável se uma nota clínica gerada por IA contiver um erro que afete os cuidados ao doente

Nos cuidados de saúde primários do NHS, a responsabilidade por incidentes clínicos relacionados com IA normalmente recai sobre a organização implementadora ou o clínico individual, não sobre o fornecedor. Os fornecedores geralmente limitam a sua responsabilidade ao desempenho do software conforme descrito no contrato e não aceitam responsabilidade por decisões clínicas tomadas com base em resultados de IA. Os gestores de consultórios devem rever cuidadosamente as cláusulas de indemnização, confirmar se a sua organização de defesa médica foi consultada e assegurar que todo o conteúdo gerado por IA é revisto por um clínico antes de entrar no registo do doente.

▶ Onde devem ser processados e armazenados os dados dos doentes ao utilizar uma ferramenta de IA clínica

Os dados dos doentes são dados de categoria especial ao abrigo do Regulamento Geral de Proteção de Dados do Reino Unido e devem ser processados de forma legal, transparente e proporcional. Se os dados forem transferidos para fora do Reino Unido ou da UE, são necessárias salvaguardas adicionais. Antes de assinar, os consultórios devem confirmar onde o fornecedor processa e armazena dados, quem são os seus subprocessadores e se um Acordo de Processamento de Dados em conformidade com o Artigo 28 do RGPD do Reino Unido está incluído no contrato. O NHS England confirma que uma Avaliação de Impacto sobre a Proteção de Dados é muito provavelmente um requisito legal antes da implementação.

▶ Que certificações de segurança deve um fornecedor de IA clínica deter

Fornecedores credíveis devem deter ou estar ativamente a trabalhar para obter ISO 27001 (a norma internacional para gestão de segurança da informação), conformidade com o NHS Data Security and Protection Toolkit, Cyber Essentials ou Cyber Essentials Plus, e conformidade com os Digital Technology Assessment Criteria. O NHS DSP Toolkit é um requisito contratual para organizações que acedem a dados de doentes do NHS. Um fornecedor que não consiga apresentar evidência destas certificações, ou que não forneça uma submissão atual do DSP Toolkit, deve ser tratado com cautela.

▶ O que acontece aos dados dos doentes se um consultório terminar o seu contrato com um fornecedor de IA

Esta é uma área onde os contratos com fornecedores são frequentemente vagos. Os consultórios devem confirmar antes de assinar durante quanto tempo o fornecedor retém os dados dos doentes após o término, se é possível uma exportação completa de todos os dados de doentes, e o que "eliminação mediante pedido" cobre na prática, incluindo backups e dados de subprocessadores. Ao abrigo do RGPD do Reino Unido, o consultório, como responsável pelo tratamento de dados, é responsável por assegurar que os direitos dos doentes, incluindo o direito ao apagamento, podem ser exercidos mesmo após o término de uma relação com um fornecedor. Os termos contratuais que permitem aos fornecedores reter dados para treino de modelo após o término devem ser sinalizados para revisão jurídica.

▶ Importa se uma ferramenta de IA foi treinada com dados do NHS ou de cuidados de saúde primários do Reino Unido

Sim. Os dados de treino têm uma influência direta na precisão clínica em contexto de cuidados de saúde primários do Reino Unido. Uma ferramenta treinada predominantemente com dados clínicos dos EUA pode ter um desempenho fraco em codificação clínica específica do NHS usando SNOMED CT, nomes de medicamentos e convenções de dosagem do Reino Unido, vias de referenciação e estilos de documentação de consultas de medicina geral. Os consultórios devem perguntar aos fornecedores se o modelo foi treinado e validado com dados de consultas de medicina geral do Reino Unido, e se o fornecedor publica um cartão de modelo descrevendo fontes de dados de treino, limitações conhecidas e benchmarks de desempenho. As alegações de marketing não substituem evidência documentada.

▶ Quem no consultório é responsável por supervisionar uma ferramenta de IA uma vez implementada

O GP Mythbuster 109 sobre inteligência artificial da Care Quality Commission estabelece que os consultórios devem nomear um Clinical Safety Officer, manter uma avaliação de risco e registo de perigos, e incorporar a supervisão humana de resultados de IA nos fluxos de trabalho clínicos. Esta é uma expectativa regulamentar, não um passo opcional. Os consultórios também devem manter um caso de segurança clínica DCB0160 completo, registos de formação de clínicos e um registo de quaisquer incidentes envolvendo resultados gerados por IA. Esta documentação protege o consultório se ocorrer um incidente clínico e forem levantadas questões sobre como a ferramenta foi implementada.

▶ Como deve um consultório avaliar se uma ferramenta de IA se integra adequadamente com o seu sistema de registo médico

A maioria dos consultórios de medicina geral em Inglaterra utiliza EMIS Web ou SystmOne. Os consultórios devem confirmar se a ferramenta tem uma integração nativa e certificada com o seu sistema em vez de uma solução alternativa, quem é responsável por manter essa integração quando o fornecedor do sistema de registo médico lança atualizações, e se a integração foi testada num ambiente de medicina geral ao vivo. A integração que exige copiar e colar manualmente o conteúdo gerado por IA no registo médico aumenta o risco de erros de transcrição e elimina grande parte do benefício de eficiência. As falhas de integração podem criar lacunas no registo do doente com implicações diretas para a segurança do doente.

▶ Que evidência clínica deve um fornecedor ser capaz de fornecer antes de um consultório assinar um contrato

Os fornecedores devem fornecer estudos publicados revistos por pares ou resultados de pilotos documentados de ambientes de medicina geral ou cuidados de saúde primários, estudos de caso de contextos de cuidados de saúde primários do Reino Unido com resultados mensuráveis e evidência de avaliação contra fluxos de trabalho específicos do NHS e sistemas de registo médico. A evidência de cuidados secundários ou contextos internacionais de cuidados de saúde primários não se transfere diretamente para a medicina geral do Reino Unido. Como investigadores escrevendo na Lancet observaram, a implementação de IA nos cuidados de saúde primários está atualmente a ultrapassar a avaliação robusta, o que significa que as alegações dos fornecedores devem ser escrutinadas cuidadosamente e a monitorização pós-implementação é essencial.

▶ O que deve um consultório procurar nos acordos de suporte e resposta a incidentes de um fornecedor

O Acordo de Nível de Serviço deve diferenciar tempos de resposta e resolução entre incidentes de segurança clínica e problemas técnicos gerais. Os consultórios devem confirmar se o fornecedor tem um contacto nomeado para consultórios de medicina geral ou encaminha o suporte através de um helpdesk genérico, e se o fornecedor tem um processo documentado de reporte de incidentes de segurança clínica que cumpre as normas do NHS. As orientações do NHS England sobre produtos de transcrição ambiente exigem que os acordos contratuais definam claramente papéis, responsabilidades e obrigações, incluindo resposta a incidentes. Um fornecedor que não consegue articular um processo claro de incidentes de segurança clínica não está pronto para implementação num contexto de cuidados de saúde primários.