La práctica psiquiátrica en Europa atraviesa un período de cambios normativos significativos. La Ley de IA de la UE, el primer marco legal integral del mundo para la inteligencia artificial (IA), está entrando progresivamente en vigor y regula con especial rigor las herramientas de IA empleadas en entornos de salud mental. Para los psiquiatras que evalúan o ya utilizan herramientas asistidas por IA en su labor clínica, comprender cómo esta normativa clasifica dichas herramientas ha dejado de ser una abstracción de cumplimiento. Tiene implicaciones directas sobre qué puede desplegarse, bajo qué condiciones y con qué obligaciones hacia los pacientes.

Por qué las herramientas de IA en salud mental enfrentan un escrutinio normativo más estricto

La Ley de IA de la UE no aplica un estándar uniforme a todas las aplicaciones de IA en el sector sanitario. Su marco de clasificación de riesgos es sensible al contexto clínico en el que opera una herramienta, la naturaleza de las decisiones que influye y las características de la población a la que afecta.

La práctica de la salud mental se sitúa en la intersección de varios factores que atraen consistentemente los requisitos más exigentes de la Ley: la vulnerabilidad de la población de pacientes, la gravedad de los daños potenciales derivados de resultados erróneos de la IA y el grado en que las decisiones clínicas en psiquiatría dependen de un juicio matizado y relacional, difícil de auditar o revertir.

Un análisis revisado por pares publicado en 2024 concluyó que se están asumiendo riesgos significativos con el uso de IA generativa en salud mental, y que la Ley de IA de la UE, aunque directamente aplicable, puede resultar insuficiente por sí sola para abordar las lagunas legales y éticas específicas que surgen en contextos psiquiátricos. Esa evaluación subraya por qué los psiquiatras no pueden tratar el cumplimiento normativo como un asunto exclusivo del proveedor.

Qué dice la Ley de IA de la UE sobre la IA de alto riesgo en el sector sanitario

La Ley establece un sistema de clasificación por niveles. En la cima están las prácticas de IA prohibidas, sistemas que están prohibidos de forma absoluta. Por debajo se sitúa la categoría de alto riesgo, que conlleva las obligaciones de cumplimiento más extensas.

El artículo 6 de la Ley define dos vías para la clasificación de alto riesgo: primero, cuando un sistema de IA es un componente de seguridad de un producto ya cubierto por la legislación de armonización de la UE enumerada en el Anexo I (que incluye el Reglamento de Productos Sanitarios, o MDR); segundo, cuando el sistema entra dentro de una de las categorías enumeradas en el Anexo III.

El Anexo III incluye explícitamente sistemas de IA destinados a diagnosticar, tratar, monitorizar o predecir condiciones de salud, incluidos trastornos mentales. Las herramientas de IA diseñadas para asistir en el diagnóstico psiquiátrico, predecir el deterioro, estratificar el riesgo o apoyar decisiones de tratamiento caen directamente dentro de la designación de alto riesgo por diseño legislativo, no por interpretación.

La distinción entre un sistema prohibido y uno de alto riesgo es relevante en la práctica. Los sistemas prohibidos, como aquellos que explotan vulnerabilidades psicológicas para manipular el comportamiento de formas que causan daño, no pueden desplegarse en absoluto. Un análisis legal que examina las prácticas prohibidas bajo la Ley identificó los chatbots de salud mental que utilizan diálogo persuasivo o gamificación para influir en el comportamiento del paciente como potencialmente incursos en territorio prohibido, dependiendo de su diseño y contexto de uso. Los sistemas de alto riesgo, por el contrario, pueden desplegarse, pero solo tras cumplir un conjunto riguroso de requisitos de conformidad.

Cómo la vulnerabilidad de la población moldea la clasificación de riesgo

Una de las dimensiones menos discutidas del marco de riesgo de la Ley es su atención a las características de los individuos afectados, no solo a la función técnica del sistema de IA. La Ley exige explícitamente que la vulnerabilidad de los usuarios y personas afectadas sea considerada en el proceso de evaluación de riesgos. Los pacientes que reciben atención psiquiátrica, incluidos aquellos con enfermedad mental grave, en crisis aguda o con condiciones que afectan la cognición o la capacidad de toma de decisiones, son reconocidos bajo la ley de la UE como un grupo vulnerable.

Esto tiene una consecuencia práctica para la clasificación. Una herramienta de documentación que genera historias clínicas estructuradas podría realizar una función técnicamente comparable en dermatología y en psiquiatría. Pero el contexto clínico en psiquiatría, donde las notas pueden informar directamente decisiones sobre detención, medicación o intervención en crisis, y la vulnerabilidad de la población de pacientes, implica que la misma función técnica conlleva un peso normativo diferente.

Los psiquiatras no deben asumir que, porque una herramienta se comercializa como asistente de documentación y no como ayuda diagnóstica, está automáticamente sujeta a requisitos normativos más ligeros.

Qué herramientas de IA en la práctica de salud mental tienen más probabilidades de ser clasificadas como de alto riesgo

Mapear categorías comunes de herramientas de IA frente a los criterios de clasificación de la Ley no es sencillo, porque la clasificación depende del propósito previsto y el contexto de uso más que de la categoría de producto en sí misma. Dicho esto, varios tipos de herramientas empleadas en la práctica psiquiátrica tienen altas probabilidades de recibir la designación de alto riesgo:

• Herramientas de estratificación de riesgo y triaje: Los sistemas que evalúan el riesgo de suicidio, predicen el deterioro psiquiátrico o priorizan pacientes para revisión urgente están entre los casos más claros para la clasificación de alto riesgo. Una revisión sistemática publicada en 2026 halló que la prevención del suicidio y la detección de crisis era un dominio común para los chatbots de salud mental con IA, precisamente el contexto donde los errores pueden tener consecuencias más graves.

• Herramientas de soporte diagnóstico: Los sistemas de IA que sugieren diagnósticos, diagnósticos diferenciales o códigos diagnósticos para condiciones de salud mental están incluidos explícitamente en el Anexo III.

• Sistemas de seguimiento del estado de ánimo y síntomas: Cuando estos sistemas generan resultados que informan directamente decisiones clínicas, en lugar de limitarse a registrar datos reportados por el paciente, es probable que sean tratados como de alto riesgo.

• Agentes de psicoterapia habilitados por IA: La investigación académica sobre agentes de psicoterapia basados en modelos de lenguaje grande (LLM) ha destacado la ausencia de métodos estandarizados de evaluación de seguridad para esta categoría y documentado daños ocasionados por chatbots de IA no regulados utilizados por poblaciones vulnerables, reforzando el argumento para su clasificación como de alto riesgo.

• Herramientas de soporte a la decisión clínica: Cualquier sistema de IA que recomiende o influya en decisiones de tratamiento en un entorno de salud mental, incluidas sugerencias de medicación o recomendaciones de vías de atención, entra dentro del marco de alto riesgo.

Un punto crítico señalado en la orientación de la Comisión Europea sobre IA en el sector sanitario es que los proveedores que consideren que su sistema no cumple el umbral de alto riesgo deben documentar esa evaluación. La carga de demostrar una clasificación de menor riesgo recae en el proveedor, no en el regulador.

Dónde se sitúan las herramientas de documentación clínica en el marco de clasificación

Los asistentes de documentación ambiental, herramientas que transcriben y estructuran encuentros clínicos en notas, cartas de derivación o informes de alta, ocupan una posición más controvertida en el marco de clasificación. La cuestión de si tales herramientas son automáticamente de alto riesgo no tiene una respuesta única.

Una herramienta de documentación que transcribe pasivamente el habla y presenta texto no estructurado para que un profesional sanitario lo revise y edite se sitúa en un punto diferente del espectro de riesgo que una que genera historias clínicas estructuradas, aplica códigos diagnósticos o produce resultados que se utilizan rutinariamente sin modificación significativa del profesional sanitario para informar decisiones de atención.

La lógica de clasificación de la Ley se centra en el propósito previsto y el uso realista del resultado del sistema. Como confirma el análisis académico de la Ley de IA en el sector sanitario, la interacción entre la Ley de IA y el MDR es especialmente relevante aquí: si una herramienta de documentación califica como Software como Dispositivo Médico bajo el MDR, es probable que también reciba la clasificación de alto riesgo bajo la Ley de IA.

En un contexto de salud mental, el umbral a partir del cual una herramienta de documentación se considera de alto riesgo es posiblemente más bajo que en otras especialidades. Las historias clínicas en psiquiatría se utilizan frecuentemente para fundamentar decisiones sobre tratamiento obligatorio, evaluaciones de capacidad y derivaciones de salvaguardia. Cuando las notas generadas por IA alimentan directamente esas decisiones, incluso si el profesional sanitario las revisa nominalmente, el resultado de la herramienta influye funcionalmente en una decisión clínica de alto riesgo que afecta a una persona vulnerable.

Un matiz importante: la orientación del Grupo de Coordinación de Dispositivos Médicos (MDCG) aclara que los sistemas de IA desarrollados y utilizados exclusivamente dentro de una sola institución sanitaria, sin ser comercializados, pueden estar sujetos a obligaciones modificadas. Esto se aplica a un subconjunto limitado de herramientas internas y no afecta a productos adquiridos comercialmente.

Requisitos de conformidad que los psiquiatras y gestores de práctica deben verificar

Para los sistemas de IA clasificados como de alto riesgo, la Ley impone un conjunto de obligaciones que deben cumplirse antes del despliegue. Desde la perspectiva de un psiquiatra o gestor de práctica que adquiere una herramienta de IA, los siguientes son los requisitos clave que debe verificar con cualquier proveedor:

• Marcado CE y cumplimiento del MDR: Cuando la herramienta califica como dispositivo médico, se requiere el marcado CE bajo el MDR. Las herramientas de IA de alto riesgo que también son dispositivos médicos deben cumplir tanto con la evaluación de conformidad del MDR como con los requisitos de la Ley de IA. Estas son obligaciones paralelas, no alternativas.

• Documentación técnica: Los proveedores deben mantener documentación técnica integral que demuestre el diseño del sistema, el proceso de desarrollo, las características de los datos de entrenamiento y la validación del rendimiento. Esta documentación debe estar disponible para su inspección.

• Sistema de gestión de riesgos: Se requiere un proceso documentado de gestión de riesgos alineado con la norma ISO 14971 o estándares equivalentes. La revisión sistemática de 2026 sobre chatbots de salud mental encontró que el 78,8 % de los estudios revisados fueron calificados como de alto riesgo por el rigor de la evaluación de ciberseguridad, lo que indica que las pruebas adversariales formales y el modelado estructurado de amenazas siguen siendo poco frecuentes. Los psiquiatras deben abordar esta brecha directamente con los proveedores.

• Mecanismos de supervisión humana: Los sistemas de alto riesgo deben diseñarse para permitir una supervisión humana efectiva, incluida la capacidad de los profesionales sanitarios para anular, desestimar o intervenir en el resultado del sistema. Este es un requisito legal, no una característica opcional.

• Registro y trazabilidad: El sistema debe registrar automáticamente sus operaciones en un grado que permita la revisión posterior de cómo se generaron los resultados. Esto es especialmente relevante en psiquiatría, donde las decisiones clínicas pueden estar sujetas a escrutinio legal.

• Precisión, robustez y ciberseguridad: Los proveedores deben demostrar que el sistema funciona con un nivel definido de precisión y es resistente a errores y entradas adversariales.

Una guía centrada en el profesional sanitario publicada en Psychiatria Danubina señaló que estos conceptos normativos pueden resultar complejos para los profesionales sanitarios, y recomendó que los profesionales de la salud desarrollen suficiente familiaridad con el marco para evaluar críticamente las herramientas de IA antes de adoptarlas.

Obligaciones de transparencia al usar IA en consultas de salud mental

Los requisitos de transparencia de la Ley de IA son distintos de, aunque complementarios a, las obligaciones de conformidad descritas anteriormente. En un entorno clínico, se traducen en deberes concretos que recaen en el desplegador del sistema, que en la mayoría de los casos es la institución sanitaria o la práctica, no el proveedor.

Cuando un sistema de IA interviene en una interacción clínica, ya sea generando notas, apoyando una decisión diagnóstica o realizando cualquier parte de una evaluación, los pacientes tienen derecho a ser informados. En la práctica de salud mental, esta obligación adquiere un peso particular. La relación terapéutica es fundamental para la atención psiquiátrica, y la confianza de los pacientes en esa relación depende en parte de su comprensión de cómo se toman las decisiones sobre su atención.

Las obligaciones clave de transparencia incluyen:

• Divulgación de la participación de la IA: Los pacientes deben ser informados cuando se utiliza un sistema de IA de manera que afecte materialmente su atención. Esto se aplica incluso cuando el profesional sanitario mantiene la autoridad final de decisión.

• Interacción con el RGPD: Los datos de salud mental se clasifican como una categoría especial bajo el Reglamento General de Protección de Datos (RGPD), lo que implica el nivel más alto de protección de datos. Cuando los sistemas de IA procesan estos datos, incluida la transcripción de consultas, la base legal para el tratamiento, las políticas de retención de datos y los derechos de acceso y eliminación deben estar claramente establecidos. La orientación oficial de la Comisión Europea señala que el Reglamento del Espacio Europeo de Datos de Salud, que entró en vigor en 2025 pero cuyas disposiciones se aplicarán progresivamente en los años siguientes, proporciona una capa adicional de gobernanza para el uso de datos de IA clínica.

• Consentimiento informado: En psiquiatría, donde los pacientes pueden tener condiciones que afectan su capacidad para consentir, el proceso para obtener un consentimiento informado significativo para la participación de la IA en la atención requiere una consideración cuidadosa. Un protocolo de gobernanza de 2025 para psicoterapia habilitada por IA propuso procesos de consentimiento por capas como un mecanismo práctico para abordar este desafío, explícitamente alineado con los requisitos de la Ley de IA de la UE y el RGPD.

Qué preguntar a un proveedor antes de desplegar una herramienta de IA en una práctica psiquiátrica

Los psiquiatras y gestores de práctica son, bajo la Ley, considerados desplegadores de sistemas de IA. Esto crea obligaciones legales directas, pero también los posiciona como adquirentes informados que deben exigir responsabilidad a los proveedores. Las siguientes preguntas representan un estándar mínimo de diligencia debida:

• ¿Este sistema está clasificado como de alto riesgo bajo la Ley de IA de la UE? Si no, ¿qué evaluación documentada respalda esa conclusión?

• ¿El sistema califica como dispositivo médico bajo el MDR? Si es así, ¿tiene marcado CE y qué Organismo Notificado realizó la evaluación de conformidad?

• ¿El sistema ha sido validado clínicamente en una población de salud mental? ¿Se pueden compartir datos de validación, incluidas métricas de rendimiento desagregadas por subgrupo de pacientes?

• ¿Dónde se procesan y almacenan los datos de los pacientes? ¿El proveedor garantiza la residencia de datos en la UE y cuáles son las políticas de retención y eliminación de datos?

• ¿Qué trazabilidad genera el sistema y cómo se puede acceder a los registros para fines de gobernanza clínica o revisión legal?

• ¿Qué mecanismos de anulación humana están integrados en el sistema y cómo están documentados?

• ¿Cómo gestiona el proveedor las actualizaciones del modelo? ¿Las versiones actualizadas están sujetas a revalidación antes del despliegue?

• ¿Cuál es el proceso del proveedor para reportar y responder a incidentes que involucren resultados generados por IA que puedan haber contribuido a un daño al paciente?

La revisión sistemática sobre chatbots de IA de salud mental halló que la mayoría de los sistemas se basan en LLM de propósito general y se despliegan a través de plataformas orientadas al consumidor sin supervisión clínica, un patrón incompatible con los requisitos de la Ley de IA para sistemas de alto riesgo en entornos psiquiátricos.

Cómo interactúa la Ley de IA con la legislación existente sobre dispositivos médicos y protección de datos

La Ley de IA es una normativa horizontal. Se aplica en todos los sectores y se sitúa junto a, en lugar de reemplazar, la legislación sectorial específica existente. Para los psiquiatras, esto significa que el cumplimiento de la Ley de IA no exime de las obligaciones bajo el MDR o el RGPD, y viceversa.

El análisis académico de la Ley de IA en el sector sanitario describe la Ley como un marco normativo horizontal pionero y aborda explícitamente la interacción entre las obligaciones de conformidad de la Ley de IA y los requisitos del MDR. Una herramienta de IA utilizada en la práctica psiquiátrica puede estar simultáneamente sujeta a:

• Obligaciones de alto riesgo de la Ley de IA de la UE (si cumple los criterios del Anexo III)

• Obligaciones del MDR (si califica como Software como Dispositivo Médico)

• Obligaciones del RGPD (dado que los datos de salud mental son una categoría especial)

• Legislación nacional sobre datos de salud mental en algunos Estados miembros de la UE, que puede imponer restricciones adicionales sobre el tratamiento de registros psiquiátricos

El análisis de políticas de Healthy Europe señala que el mercado europeo de aplicaciones de salud mental contiene miles de productos con evaluación clínica limitada, y que el cumplimiento dual bajo la Ley de IA y el MDR añade una complejidad que muchos proveedores aún no han abordado completamente. Los psiquiatras no deben asumir que la presencia de un producto en el mercado indica cumplimiento normativo completo, especialmente durante el período de transición actual.

También existe una limitación reconocida en el panorama normativo actual. Un análisis legal revisado por pares ha argumentado que la Ley de IA de la UE, aunque directamente aplicable a la IA de salud mental, es insuficiente por sí sola para abordar todas las lagunas legales y éticas en este ámbito. La Ley no resuelve cuestiones de responsabilidad clínica cuando la IA contribuye a una decisión dañina, y los marcos nacionales de responsabilidad médica continuarán regulando esas cuestiones de forma independiente.

Fechas clave y cronogramas de transición que los psiquiatras deben conocer

La Ley de IA se está implementando en fases, y no todas las obligaciones están aún en vigor. Para los psiquiatras que evalúan herramientas actualmente, el siguiente cronograma es directamente relevante:

• Febrero de 2025: Las disposiciones sobre prácticas de IA prohibidas entraron en vigor. Los sistemas de IA que explotan vulnerabilidades psicológicas o utilizan manipulación subliminal en contextos clínicos están prohibidos desde esta fecha.

• Agosto de 2025: Las obligaciones relacionadas con modelos de IA de propósito general, incluidos los LLM utilizados como base de herramientas de IA clínica, entraron en vigor.

• Agosto de 2026: El marco completo de cumplimiento de alto riesgo, incluidas todas las obligaciones de evaluación de conformidad, documentación, supervisión y transparencia, se aplica a los sistemas de IA en el sector sanitario. Esta es la fecha límite para la cual los proveedores y desplegadores de sistemas de IA de alto riesgo deben estar en pleno cumplimiento.

• Agosto de 2027: Una transición extendida se aplica específicamente a los sistemas de IA que también son dispositivos médicos regulados bajo el MDR o el Reglamento de Dispositivos Médicos de Diagnóstico In Vitro (IVDR), reflejando los cronogramas de evaluación de conformidad más largos en el sector de dispositivos médicos.

La fecha límite de agosto de 2026 es la más relevante para los psiquiatras que evalúan o despliegan herramientas de IA actualmente. Las herramientas que se están adquiriendo ahora deberán cumplir con los requisitos completos de alto riesgo en cuestión de meses desde la publicación de este artículo. Los psiquiatras y gestores de práctica que están en proceso de adquisición o despliegue deben tratar la fecha límite de cumplimiento como una preocupación operativa inmediata, no como una consideración futura.

Una revisión legislativa de los 50 estados de EE. UU. publicada en JMIR Mental Health, aunque centrada en el contexto estadounidense, identificó un patrón consistente de profesionales sanitarios y organizaciones profesionales ausentes en la formulación de políticas de IA, lo que resulta en marcos que divergen de las realidades clínicas. El mismo riesgo existe en Europa. Los psiquiatras que se involucran activamente con los requisitos de la Ley de IA, como adquirentes, desplegadores y contribuyentes a la orientación profesional, están mejor posicionados para influir en la implementación de estas herramientas en la práctica que quienes tratan la normativa como una restricción externa.

Preguntas frecuentes

▶ ¿Por qué las herramientas de IA utilizadas en entornos de salud mental enfrentan una normativa más estricta bajo la Ley de IA de la UE?

El marco de clasificación de riesgos de la Ley de IA de la UE tiene en cuenta la vulnerabilidad de la población de pacientes, la gravedad de los daños potenciales de resultados incorrectos de la IA y la complejidad del juicio clínico en psiquiatría. Los pacientes de salud mental, incluidos aquellos en crisis aguda o con condiciones que afectan la capacidad de toma de decisiones, son reconocidos bajo la ley de la UE como un grupo vulnerable. Ese reconocimiento eleva directamente el peso normativo aplicado a las herramientas de IA que operan en entornos psiquiátricos, incluso cuando esas herramientas realizan funciones que atraerían requisitos más ligeros en otras especialidades.

▶ ¿Qué herramientas de IA utilizadas en la práctica psiquiátrica tienen más probabilidades de ser clasificadas como de alto riesgo?

Varias categorías atraen consistentemente la clasificación de alto riesgo bajo la Ley. Las herramientas de estratificación de riesgo y triaje, incluidas aquellas que evalúan el riesgo de suicidio o predicen el deterioro psiquiátrico, caen claramente dentro de este grupo. Las herramientas de soporte diagnóstico que sugieren diagnósticos o códigos diagnósticos para condiciones de salud mental están explícitamente cubiertas por el Anexo III de la Ley. Las herramientas de soporte a la decisión clínica que influyen en decisiones de tratamiento, los agentes de psicoterapia habilitados por IA y los sistemas de seguimiento del estado de ánimo o síntomas cuyos resultados informan directamente decisiones clínicas también tienen probabilidades de ser clasificados como de alto riesgo.

▶ ¿Las herramientas de documentación clínica, como los escribas ambientales, se clasifican automáticamente como de alto riesgo en entornos de salud mental?

No automáticamente, pero el umbral es más bajo en psiquiatría que en otras especialidades. Una herramienta que transcribe pasivamente el habla para que un profesional sanitario la revise se sitúa en un punto diferente del espectro de riesgo que una que genera historias clínicas estructuradas o aplica códigos diagnósticos. En psiquiatría, las historias clínicas informan frecuentemente decisiones sobre tratamiento obligatorio, evaluaciones de capacidad y derivaciones de salvaguardia. Cuando las notas generadas por IA alimentan directamente esas decisiones, incluso con revisión nominal del profesional sanitario, el resultado de la herramienta influye funcionalmente en una decisión de alto riesgo que afecta a una persona vulnerable. Si la herramienta también califica como Software como Dispositivo Médico bajo el Reglamento de Productos Sanitarios, la clasificación de alto riesgo bajo la Ley de IA se vuelve más probable.

▶ ¿Qué requisitos de conformidad debe cumplir una herramienta de IA de alto riesgo antes de poder desplegarse en una práctica psiquiátrica?

Los sistemas de IA de alto riesgo deben cumplir varios requisitos antes del despliegue. Los proveedores deben mantener documentación técnica integral que cubra el diseño del sistema, los datos de entrenamiento y la validación del rendimiento. Se requiere un proceso documentado de gestión de riesgos. El sistema debe incluir mecanismos de supervisión humana que permitan a los profesionales sanitarios anular o desestimar sus resultados. Debe existir registro automático de las operaciones del sistema para permitir la revisión posterior. Cuando la herramienta también califica como dispositivo médico, se requiere el marcado CE bajo el Reglamento de Productos Sanitarios junto con la conformidad de la Ley de IA. Los proveedores también deben demostrar niveles definidos de precisión, robustez y resiliencia en ciberseguridad.

▶ ¿Qué obligaciones de transparencia se aplican al usar IA en consultas de salud mental?

Los pacientes deben ser informados cuando se utiliza un sistema de IA de manera que afecte materialmente su atención, incluso cuando el profesional sanitario mantiene la autoridad final de decisión. Los datos de salud mental se clasifican como una categoría especial bajo el Reglamento General de Protección de Datos, lo que significa que la base legal para el tratamiento, las políticas de retención de datos y los derechos de acceso y eliminación de los pacientes deben estar claramente establecidos. En psiquiatría, donde los pacientes pueden tener condiciones que afectan su capacidad para consentir, obtener un consentimiento informado significativo para la participación de la IA en la atención requiere especial cuidado. Un protocolo de gobernanza de 2025 propuso procesos de consentimiento por capas como un enfoque práctico para este desafío.

▶ ¿Se puede usar una herramienta de IA que está prohibida bajo la Ley de IA de la UE en un entorno de salud mental si es clínicamente beneficiosa?

No. Las prácticas de IA prohibidas están prohibidas de forma absoluta y no pueden desplegarse independientemente del beneficio clínico percibido. La Ley identifica sistemas que explotan vulnerabilidades psicológicas para manipular el comportamiento de formas dañinas como prohibidos. Los chatbots de salud mental que utilizan diálogo persuasivo o gamificación para influir en el comportamiento del paciente pueden incurrir en territorio prohibido dependiendo de su diseño y contexto de uso. La distinción entre un sistema prohibido y uno de alto riesgo es significativa: los sistemas de alto riesgo pueden desplegarse, pero solo tras cumplir requisitos rigurosos de conformidad.

▶ ¿Qué preguntas debe hacer un psiquiatra o gestor de práctica a un proveedor antes de adquirir una herramienta de IA?

Como mínimo, debe preguntar si el sistema está clasificado como de alto riesgo bajo la Ley de IA de la UE y, si no, qué evaluación documentada respalda esa conclusión. Pregunte si califica como dispositivo médico y, si es así, si tiene marcado CE. Solicite datos de validación clínica específicos para una población de salud mental, incluidas métricas de rendimiento desagregadas por subgrupo de pacientes. Confirme dónde se procesan y almacenan los datos de los pacientes y si se garantiza la residencia de datos en la UE. Pregunte qué trazabilidad genera el sistema, qué mecanismos de anulación humana existen, cómo se gestionan las actualizaciones del modelo y cuál es el proceso del proveedor para reportar incidentes que involucren resultados generados por IA que puedan haber contribuido a un daño al paciente.

▶ ¿Cómo interactúa la Ley de IA de la UE con el Reglamento de Productos Sanitarios y el RGPD en la práctica psiquiátrica?

La Ley de IA de la UE se sitúa junto a la legislación existente, no la reemplaza. Una herramienta de IA utilizada en la práctica psiquiátrica puede estar simultáneamente sujeta a obligaciones de alto riesgo de la Ley de IA de la UE, obligaciones del Reglamento de Productos Sanitarios si califica como Software como Dispositivo Médico, y obligaciones del Reglamento General de Protección de Datos dado que los datos de salud mental son una categoría especial. Algunos Estados miembros de la UE también imponen restricciones nacionales adicionales sobre el tratamiento de registros psiquiátricos. El cumplimiento de un marco no exime de las obligaciones bajo los demás. Un análisis legal revisado por pares ha señalado que la Ley de IA por sí sola es insuficiente para abordar todas las lagunas legales y éticas específicas de la IA de salud mental.

▶ ¿Cuáles son las fechas límite clave de cumplimiento de la Ley de IA de la UE de las que los psiquiatras deben ser conscientes?

Las disposiciones sobre prácticas de IA prohibidas entraron en vigor en febrero de 2025. Las obligaciones relacionadas con modelos de IA de propósito general, incluidos los modelos de lenguaje grande utilizados como base de herramientas de IA clínica, entraron en vigor en agosto de 2025. El marco completo de cumplimiento de alto riesgo, que cubre la evaluación de conformidad, documentación, supervisión y obligaciones de transparencia, se aplica desde agosto de 2026. Una transición extendida hasta agosto de 2027 se aplica específicamente a los sistemas de IA que también son dispositivos médicos regulados bajo el Reglamento de Productos Sanitarios o el Reglamento de Dispositivos Médicos de Diagnóstico In Vitro. Las herramientas que se están adquiriendo ahora deberán cumplir con los requisitos completos de alto riesgo para agosto de 2026.

▶ ¿La Ley de IA de la UE resuelve cuestiones de responsabilidad clínica cuando la IA contribuye a una decisión dañina en psiquiatría?

No. Un análisis legal revisado por pares ha confirmado que la Ley de IA de la UE no resuelve cuestiones de responsabilidad clínica cuando la IA contribuye a una decisión dañina. Los marcos nacionales de responsabilidad médica continúan regulando esas cuestiones de forma independiente. La Ley establece obligaciones de cumplimiento y conformidad para proveedores y desplegadores, pero no crea un régimen unificado de responsabilidad por daños clínicos relacionados con la IA. Los psiquiatras deben buscar asesoramiento legal específico de su jurisdicción al evaluar la exposición a responsabilidad por el despliegue de herramientas de IA.