·

·

14

min de lectura

Clasificación de riesgo de la Ley de IA para herramientas de salud mental

Cómo la Ley de IA de la UE clasifica las herramientas de IA en la práctica psiquiátrica, requisitos de alto riesgo y qué deben verificar los psiquiatras antes de su implementación

Profesional de salud mental evaluando marco de clasificación de riesgo IA

La Ley de Inteligencia Artificial de la Unión Europea clasifica la mayoría de las herramientas de IA empleadas en salud mental como de alto riesgo. Esto impone obligaciones de cumplimiento rigurosas antes de que puedan desplegarse. Para los psiquiatras que evalúan o ya utilizan estas herramientas, entender cómo funciona esa clasificación tiene implicaciones directas sobre qué puede desplegarse, en qué condiciones y qué obligaciones existen hacia los pacientes.

Por qué la salud mental atrae los requisitos más exigentes de la Ley

La Ley de IA de la Unión Europea (UE) no aplica un estándar uniforme a todas las aplicaciones de IA sanitaria. Su sistema de clasificación de riesgos tiene en cuenta el contexto clínico, la naturaleza de las decisiones que influye y las características de la población afectada. La práctica de la salud mental se sitúa en la intersección de varios factores que atraen sistemáticamente los requisitos más exigentes: la vulnerabilidad de los pacientes, la gravedad de los daños que pueden derivarse de resultados erróneos, y el grado en que las decisiones psiquiátricas dependen de un juicio matizado y relacional que es difícil de auditar o revertir.

Un análisis revisado por pares publicado en 2024 concluyó que el uso de IA generativa en salud mental conlleva riesgos significativos, y señaló además que la Ley de IA, aunque directamente aplicable, puede resultar insuficiente por sí sola para cubrir las lagunas legales y éticas específicas de los contextos psiquiátricos. Esa combinación de riesgos elevados y un marco regulatorio que puede no llegar a cubrirlos del todo explica por qué los psiquiatras no pueden tratar el cumplimiento normativo como un asunto exclusivo del proveedor.

Cómo clasifica la Ley las herramientas de IA en salud mental

La Ley establece un sistema de clasificación por niveles. En la cima están las prácticas de IA prohibidas: sistemas que no pueden desplegarse bajo ninguna circunstancia. Por debajo se sitúa la categoría de alto riesgo, que conlleva las obligaciones de cumplimiento más extensas.

El artículo 6 de la Ley define dos vías para la clasificación de alto riesgo. La primera se aplica cuando un sistema de IA es un componente de seguridad de un producto cubierto por la legislación de armonización de la UE recogida en el Anexo I, que incluye el Reglamento de Productos Sanitarios (MDR, por sus siglas en inglés). La segunda se aplica cuando el sistema entra dentro de una categoría del Anexo III. La mayoría de las herramientas diseñadas para asistir en el diagnóstico psiquiátrico, predecir el deterioro, clasificar el riesgo o apoyar decisiones de tratamiento alcanzan el estatus de alto riesgo por la vía del artículo 6(1) y el Anexo I, como componentes de seguridad de productos regulados bajo el MDR. El efecto práctico es similar en ambas vías, pues se aplican las obligaciones completas de alto riesgo, pero la vía legal determina qué proceso de evaluación de conformidad corresponde aplicar.

La distinción entre un sistema prohibido y uno de alto riesgo tiene relevancia práctica. Los sistemas prohibidos, como aquellos que explotan vulnerabilidades psicológicas para manipular el comportamiento de formas que causan daño, no pueden desplegarse bajo ninguna circunstancia. Los chatbots de salud mental que usan diálogo persuasivo o gamificación para influir en el comportamiento del paciente podrían entrar en territorio prohibido, dependiendo de su diseño y contexto de uso. Los sistemas de alto riesgo, en cambio, sí pueden desplegarse, pero únicamente tras cumplir un conjunto riguroso de requisitos de cumplimiento.

Qué herramientas tienen más probabilidades de ser clasificadas como de alto riesgo

La clasificación depende del propósito previsto y el contexto de uso. Dicho esto, varios tipos de herramientas empleadas en la práctica psiquiátrica tienen muchas probabilidades de recibir la designación de alto riesgo.

Los sistemas que evalúan el riesgo de suicidio o predicen el deterioro psiquiátrico son de los casos más claros. Una revisión sistemática publicada en 2026 identificó la prevención del suicidio y la detección de crisis como uno de los ámbitos más comunes para los chatbots de salud mental con IA, precisamente el contexto donde los errores pueden tener las consecuencias más graves. Los sistemas que sugieren diagnósticos o códigos diagnósticos suelen calificar como productos sanitarios y alcanzan el estatus de alto riesgo por la vía MDR/Anexo I. Cualquier sistema que recomiende o influya en decisiones de tratamiento, incluidas sugerencias de medicación o recomendaciones sobre la vía de atención, entra igualmente dentro del marco de alto riesgo.

La investigación académica sobre agentes de psicoterapia basados en modelos de lenguaje de gran escala ha puesto de relieve la ausencia de métodos estandarizados para evaluar su seguridad, y ha documentado daños ocasionados por chatbots no regulados usados por poblaciones vulnerables. Los sistemas de seguimiento del estado de ánimo y síntomas también entran en este grupo cuando generan resultados que informan directamente decisiones clínicas, en lugar de limitarse a registrar datos aportados por el paciente.

Conforme al artículo 6(4) de la Ley, los proveedores que consideren que su sistema del Anexo III no alcanza el umbral de alto riesgo deben documentar esa evaluación. La carga de demostrar una clasificación de menor riesgo recae en el proveedor, no en el regulador.

Dónde se sitúan las herramientas de documentación clínica

Los asistentes de documentación ambiental, herramientas que transcriben y estructuran encuentros clínicos en notas, cartas de derivación o informes de alta, ocupan una posición más debatida. Una herramienta de documentación que transcribe pasivamente el habla y presenta texto no estructurado para revisión se sitúa en un punto muy diferente del espectro de riesgo que una que genera historiales clínicos estructurados, aplica códigos diagnósticos o produce resultados que los profesionales sanitarios usan de forma rutinaria sin modificarlos de manera significativa.

En un contexto de salud mental, el umbral a partir del cual una herramienta de documentación se considera de alto riesgo es probablemente más bajo que en otras especialidades. Los historiales clínicos en psiquiatría se usan con frecuencia para fundamentar decisiones sobre tratamiento involuntario, evaluaciones de capacidad y derivaciones de salvaguardia. Cuando las notas generadas por IA alimentan directamente esas decisiones, aunque el profesional sanitario las revise de forma nominal, el resultado de la herramienta influye en la práctica sobre una decisión clínica de alto riesgo que afecta a una persona vulnerable. Como confirma el análisis académico de la Ley de IA en el sector sanitario, si una herramienta de documentación califica como Software como Dispositivo Médico bajo el MDR, es probable que también reciba la clasificación de alto riesgo bajo la Ley de IA. Los psiquiatras deben verificar el estatus regulatorio de cualquier herramienta comercializada como asistente de documentación antes de asumir que está sujeta a requisitos normativos más ligeros que una ayuda diagnóstica.

Requisitos de cumplimiento y transparencia que los psiquiatras deben verificar

Para los sistemas de IA clasificados como de alto riesgo, la Ley impone un conjunto de obligaciones que deben cumplirse antes del despliegue. Desde la perspectiva de un psiquiatra o gestor de práctica que adquiere una herramienta de IA, los requisitos clave son los siguientes.

Cuando la herramienta califica como dispositivo médico, se requiere el marcado CE, la marca que indica que el producto cumple los estándares de seguridad de la UE. Las herramientas de IA de alto riesgo que también son dispositivos médicos deben cumplir tanto con la evaluación de conformidad del MDR como con los requisitos de la Ley de IA, siendo estas obligaciones paralelas entre sí. Los proveedores deben mantener documentación técnica completa que demuestre el diseño del sistema, los datos de entrenamiento y la validación del rendimiento, junto con un proceso documentado de gestión de riesgos alineado con la norma ISO 14971, el estándar internacional para la gestión de riesgos en dispositivos médicos, o estándares equivalentes. La revisión sistemática de 2026 sobre chatbots de salud mental halló que el 78,8 por ciento de los estudios revisados recibieron una calificación de alto riesgo en cuanto al rigor de la evaluación de ciberseguridad, lo que convierte este punto en uno de los más difíciles de verificar en la práctica. Los sistemas de alto riesgo deben diseñarse además de forma que los profesionales sanitarios puedan anular, desestimar o intervenir en el resultado del sistema, y deben registrar automáticamente sus operaciones en un grado que permita la revisión posterior, algo especialmente relevante en psiquiatría, donde las decisiones clínicas pueden estar sujetas a escrutinio legal.

Las obligaciones de transparencia son distintas de los requisitos anteriores, aunque los complementan. Cuando se aplican el artículo 26(11) o el artículo 50, los pacientes deben ser informados cuando un sistema de IA afecta de forma relevante a su atención. Con carácter más general, informar a los pacientes es una buena práctica incluso cuando la propia Ley no impone un deber específico de divulgación. Los datos de salud mental se clasifican como una categoría especial bajo el Reglamento General de Protección de Datos (RGPD), lo que significa que la base legal para su tratamiento, las políticas de retención y los derechos de acceso y supresión deben estar claramente establecidos. En psiquiatría, donde algunos pacientes pueden tener condiciones que afectan a su capacidad para consentir, un protocolo de gobernanza de 2025 para psicoterapia habilitada por IA propuso procesos de consentimiento por capas como mecanismo práctico, explícitamente alineado con los requisitos de la Ley de IA y el RGPD.

Una guía orientada al profesional sanitario publicada en Psychiatria Danubina señaló que estos conceptos normativos pueden resultar complejos para los profesionales sanitarios, y recomendó que desarrollen suficiente familiaridad con el marco para evaluar de forma crítica las herramientas de IA antes de adoptarlas.

Qué preguntar a un proveedor antes de desplegar una herramienta de IA en una práctica psiquiátrica

Bajo la Ley, los psiquiatras y gestores de práctica son considerados desplegadores de sistemas de IA, lo que crea obligaciones legales directas y los sitúa como compradores informados que deben exigir responsabilidad a los proveedores. Las siguientes preguntas representan un estándar mínimo de diligencia debida:

  • ¿Este sistema está clasificado como de alto riesgo bajo la Ley de IA de la UE? Si no es así, ¿qué evaluación documentada respalda esa conclusión?

  • ¿El sistema califica como dispositivo médico bajo el MDR? Si es así, ¿tiene marcado CE y qué Organismo Notificado realizó la evaluación de conformidad?

  • ¿El sistema ha sido validado clínicamente en una población de salud mental? ¿Se pueden compartir los datos de validación, incluidas las métricas de rendimiento desglosadas por subgrupo de pacientes?

  • ¿Dónde se procesan y almacenan los datos de los pacientes? ¿El proveedor garantiza que los datos permanecen en la UE, y cuáles son las políticas de retención y supresión?

  • ¿Qué registros genera el sistema y cómo se puede acceder a ellos para fines de gobernanza clínica o revisión legal?

  • ¿Qué mecanismos de anulación humana están integrados en el sistema y cómo están documentados?

  • ¿Cómo gestiona el proveedor las actualizaciones del modelo? ¿Las versiones actualizadas se someten a revalidación antes de su despliegue?

  • ¿Cuál es el proceso del proveedor para notificar y responder a incidentes en los que un resultado generado por IA pueda haber contribuido a un daño al paciente?

La revisión sistemática sobre chatbots de IA de salud mental halló que la mayoría de los sistemas se basan en modelos de lenguaje de gran escala de propósito general y se despliegan a través de plataformas orientadas al consumidor sin supervisión clínica, un patrón incompatible con los requisitos de la Ley de IA para sistemas de alto riesgo en entornos psiquiátricos.

La Ley de IA junto al MDR, el RGPD y los plazos de transición

La Ley de IA es una normativa horizontal: se aplica en todos los sectores y opera junto a la legislación sectorial existente, sin reemplazarla. Una herramienta de IA usada en la práctica psiquiátrica puede estar simultáneamente sujeta a las obligaciones de alto riesgo de la Ley de IA, a las obligaciones del MDR si califica como Software como Dispositivo Médico, a las obligaciones del RGPD dado que los datos de salud mental son una categoría especial, y a legislación nacional sobre datos de salud mental en algunos Estados miembros que puede imponer restricciones adicionales. Cumplir con uno de estos marcos no exime de las obligaciones derivadas de los demás. La relación entre la Ley de IA y el MDR añade una complejidad real para cualquier proveedor que opere en este espacio.

El análisis de políticas de Healthy Europe señala que el mercado europeo de aplicaciones de salud mental contiene miles de productos con una evaluación clínica limitada o inexistente. Los psiquiatras deben verificar el cumplimiento normativo de cualquier herramienta que evalúen, especialmente durante el actual período de transición, en lugar de asumir que la presencia de un producto en el mercado implica conformidad completa.

Los plazos más relevantes para los psiquiatras que evalúan o despliegan herramientas en la actualidad son los siguientes. Las disposiciones sobre prácticas prohibidas de IA entraron en vigor en febrero de 2025. Las obligaciones relacionadas con modelos de propósito general, incluidos los modelos de lenguaje de gran escala usados como base de herramientas clínicas, entraron en vigor en agosto de 2025. Tras el Reglamento Ómnibus de la Ley de IA (UE 2026/1744), el marco completo de cumplimiento de alto riesgo para los sistemas del Anexo III, que abarca evaluación de conformidad, documentación, supervisión y transparencia, se aplica desde diciembre de 2027, en lugar de desde agosto de 2026 como estaba originalmente previsto. Para los sistemas de IA que también son dispositivos médicos regulados bajo el MDR o el Reglamento de Dispositivos Médicos de Diagnóstico In Vitro (IVDR), la transición se extiende hasta agosto de 2028, lo que refleja los plazos más largos de evaluación de conformidad propios del sector de dispositivos médicos.

Una revisión legislativa de los 50 estados de EE. UU. publicada en JMIR Mental Health identificó un patrón consistente: los profesionales sanitarios no participan en la formulación de políticas de IA, lo que da lugar a marcos que se alejan de las realidades clínicas. El mismo riesgo existe en Europa. Los psiquiatras que se implican activamente con los requisitos de la Ley de IA, como compradores, desplegadores y contribuyentes a la orientación profesional, están mejor posicionados para influir en cómo se implementan estas herramientas que quienes tratan la normativa como una restricción externa.

Por último, la Ley de IA no resuelve las cuestiones de responsabilidad clínica cuando la IA contribuye a una decisión dañina. Los marcos nacionales de responsabilidad médica continúan regulando esas cuestiones de forma independiente, y los psiquiatras deben buscar asesoramiento legal específico de su jurisdicción al evaluar su exposición a responsabilidad.

Preguntas frecuentes

▶ ¿Por qué las herramientas de IA utilizadas en entornos de salud mental enfrentan una normativa más estricta bajo la Ley de IA de la UE?

La Ley reconoce explícitamente a los pacientes de salud mental como grupo vulnerable, lo que eleva el peso normativo aplicado a cualquier herramienta que opere en ese contexto. A diferencia de otras especialidades, los errores en psiquiatría pueden desencadenar consecuencias irreversibles, como internamientos involuntarios o crisis no detectadas, y ese potencial de daño grave es precisamente lo que la clasificación de alto riesgo está diseñada para capturar.

▶ ¿Qué herramientas de IA utilizadas en la práctica psiquiátrica tienen más probabilidades de ser clasificadas como de alto riesgo?

Las herramientas de evaluación del riesgo de suicidio, predicción de deterioro, soporte diagnóstico, apoyo a decisiones de tratamiento y seguimiento de síntomas cuyos resultados informan decisiones clínicas directas. Los agentes de psicoterapia basados en modelos de lenguaje también entran en este grupo. La clasificación depende del propósito previsto, no del nombre comercial del producto.

▶ ¿Las herramientas de documentación clínica, como los escribas ambientales, se clasifican automáticamente como de alto riesgo en entornos de salud mental?

No automáticamente. El factor determinante es si los registros generados alimentan decisiones de alto impacto, como tratamiento involuntario o evaluaciones de capacidad, sin modificación sustancial por parte del profesional. Cuanto más directa sea esa cadena entre el resultado de la herramienta y la decisión clínica, mayor es la probabilidad de clasificación de alto riesgo, especialmente si la herramienta también califica como Software como Dispositivo Médico.

▶ ¿Qué requisitos de conformidad debe cumplir una herramienta de IA de alto riesgo antes de poder desplegarse en una práctica psiquiátrica?

Documentación técnica completa, gestión de riesgos documentada, mecanismos de supervisión humana que permitan anular resultados, registro automático de operaciones y, cuando aplique, marcado CE bajo el Reglamento de Productos Sanitarios. La revisión sistemática de 2026 sobre chatbots de salud mental encontró que el 78,8 por ciento de los estudios revisados recibieron calificación de alto riesgo en ciberseguridad, lo que convierte ese punto en el más difícil de verificar en la práctica.

▶ ¿Qué obligaciones de transparencia se aplican al usar IA en consultas de salud mental?

Más allá de los deberes formales de los artículos 26(11) y 50, el reto práctico en psiquiatría es obtener consentimiento informado real cuando el paciente tiene una condición que afecta su capacidad de decisión. El protocolo de gobernanza de 2025 propuso consentimiento por capas como mecanismo concreto para ese escenario, alineado con la Ley de IA y el RGPD.

▶ ¿Se puede usar una herramienta de IA que está prohibida bajo la Ley de IA de la UE en un entorno de salud mental si es clínicamente beneficiosa?

No. La prohibición es absoluta e independiente del beneficio clínico percibido. Un chatbot de salud mental cuyo diseño implique manipulación psicológica o gamificación orientada a modificar conductas de forma dañina puede quedar dentro de las prácticas prohibidas. Ante cualquier duda sobre si un sistema cruza esa línea, la evaluación jurídica previa al despliegue es imprescindible.

▶ ¿Qué preguntas debe hacer un psiquiatra o gestor de práctica a un proveedor antes de adquirir una herramienta de IA?

Las preguntas del cuerpo del artículo cubren los requisitos mínimos. En la práctica, conviene pedir también que el proveedor especifique si el modelo subyacente es de propósito general o fue entrenado específicamente en datos clínicos de salud mental, ya que la revisión sistemática de 2026 encontró que la mayoría de los sistemas desplegados en ese ámbito se basan en modelos de propósito general sin supervisión clínica, un patrón incompatible con los requisitos de alto riesgo.

▶ ¿Cómo interactúa la Ley de IA de la UE con el Reglamento de Productos Sanitarios y el RGPD en la práctica psiquiátrica?

Los tres marcos se aplican en paralelo y cada uno genera obligaciones independientes. El punto práctico que los psiquiatras suelen pasar por alto es que algunos Estados miembros añaden restricciones nacionales sobre registros psiquiátricos que van más allá del RGPD. Verificar esas restricciones locales antes del despliegue es tan necesario como comprobar la conformidad con los marcos europeos.

▶ ¿Cuáles son las fechas límite clave de cumplimiento de la Ley de IA de la UE de las que los psiquiatras deben ser conscientes?

Prácticas prohibidas: febrero de 2025. Modelos de propósito general: agosto de 2025. Marco completo de alto riesgo para sistemas del Anexo III: diciembre de 2027, tras el Reglamento Ómnibus (UE 2026/1744). Para sistemas que también son dispositivos médicos bajo el Reglamento de Productos Sanitarios o el Reglamento de Dispositivos Médicos de Diagnóstico In Vitro, la transición se extiende hasta agosto de 2028.

▶ ¿La Ley de IA de la UE resuelve cuestiones de responsabilidad clínica cuando la IA contribuye a una decisión dañina en psiquiatría?

No. La Ley regula conformidad y cumplimiento, pero la responsabilidad por daños clínicos sigue rigiéndose por los marcos nacionales de cada Estado miembro. Dado que esos marcos varían considerablemente en cómo tratan la intervención de herramientas automatizadas en decisiones médicas, consultar asesoramiento legal específico de la jurisdicción antes del despliegue es más urgente de lo que muchos psiquiatras anticipan.

Empieza a usar Tandem hoy

Únete a miles de facultativos que disfrutan de una documentación sin estrés.

Empieza a usar Tandem hoy

Únete a miles de facultativos que disfrutan de una documentación sin estrés.

Empieza a usar Tandem hoy

Únete a miles de facultativos que disfrutan de una documentación sin estrés.