Agentes IA en Sanidad: Riesgos RGPD que Debes Conocer

Conclusiones Clave

• El Índice de Agentes IA MIT 2025 analizó 30 agentes de IA y constató que la autonomía está aumentando más rápido que la supervisión de seguridad en todos los sectores, incluida la sanidad.
• Los agentes IA que tratan historiales de pacientes activan el Artículo 9 del RGPD (datos de categoría especial) y muy probablemente requieren una Evaluación de Impacto sobre la Protección de Datos (EIPD) obligatoria conforme al Artículo 35.
• La toma de decisiones autónoma mediante IA en flujos de trabajo clínicos activa las protecciones del Artículo 22 — los pacientes tienen derecho a no ser objeto de decisiones basadas únicamente en el tratamiento automatizado que produzcan efectos significativos.
• La Ley de IA de la UE clasifica los sistemas de IA utilizados en sanidad como de alto riesgo bajo el Anexo III, añadiendo una capa de cumplimiento adicional al RGPD para la que la mayoría de las consultas independientes aún no están preparadas.
• La automatización IA insegura y a medida — donde los agentes acceden a datos fuera de su ámbito definido, operan sin registros de auditoría o dependen de subencargados del tratamiento no documentados — genera una exposición directa al RGPD para el propietario de la consulta.

El Índice de Agentes IA MIT 2025 documentó algo que reguladores y profesionales del cumplimiento llevan años advirtiendo: los agentes de IA están ganando autonomía mucho más rápido de lo que los marcos de gobernanza diseñados para contenerlos pueden seguir. Para las consultas sanitarias en la UE, esto no es una historia tecnológica abstracta — es un riesgo de cumplimiento RGPD activo que opera dentro de tu entorno de datos de pacientes en este momento.

Un agente de IA, en términos prácticos, es software que no se limita a responder a una solicitud individual. Percibe su entorno, planifica una secuencia de acciones y las ejecuta de forma autónoma — a menudo llamando a herramientas externas, leyendo bases de datos y generando resultados sin revisión humana de cada paso. En un entorno sanitario, esto podría significar un agente de IA que programa citas, recupera historiales de pacientes, redacta resúmenes clínicos y envía comunicaciones — todo como parte de un único flujo de trabajo automatizado.

Qué Encontró el Índice de Agentes IA MIT 2025

Investigadores del MIT analizaron 30 agentes de IA en distintos sectores y documentaron tres patrones directamente relevantes para el cumplimiento RGPD en sanidad.

1. La autonomía crece más rápido que la supervisión Los agentes estudiados en el Índice de Agentes IA MIT 2025 eran cada vez más capaces de ejecutar múltiples pasos y herramientas sin puntos de control humano. En despliegues sanitarios, esto significa que los sistemas de IA están tomando secuencias de decisiones con consecuencias — accediendo a historiales, activando comunicaciones, actualizando datos — de formas que ninguna persona ha revisado ni aprobado.

2. La transparencia en seguridad es débil El índice constató que la mayoría de los agentes estudiados carecían de mecanismos de seguridad documentados públicamente, comportamientos de rechazo o registros de auditoría. Para una consulta sanitaria, desplegar un agente sin controles de seguridad documentados no es una carencia técnica — es un incumplimiento del principio de responsabilidad proactiva del RGPD bajo el Artículo 5(2), que exige que puedas demostrar el cumplimiento.

3. La integración de herramientas amplía la superficie de ataque Los agentes de IA modernos operan llamando a herramientas externas: APIs, bases de datos, plataformas de comunicación, sistemas de agenda. Cada integración de herramienta es un potencial subencargado del tratamiento bajo el Artículo 28 del RGPD, y cada una representa un flujo de datos que debe ser mapeado, evaluado y gobernado contractualmente. La investigación del MIT encontró que pocos despliegues de agentes mantenían documentación exhaustiva de sus cadenas de herramientas.

«El Índice de Agentes IA MIT 2025 analizó 30 agentes de IA e identificó un patrón constante: expansión rápida de capacidades con infraestructura de gobernanza rezagada.» — MIT AI Agent Index 2025

Datos de Categoría Especial en Sanidad: El Artículo 9 del RGPD y los Agentes IA

Bajo el Artículo 9 del RGPD, los datos de salud se clasifican como datos de categoría especial — una designación que conlleva el nivel más alto de protección en el derecho europeo de protección de datos. Su tratamiento requiere no solo una base jurídica conforme al Artículo 6, sino un fundamento jurídico explícito adicional bajo el Artículo 9(2), que en la mayoría de los contextos sanitarios implica consentimiento explícito del paciente o una finalidad específica de tratamiento médico. En España, la LOPDGDD (Ley Orgánica de Protección de Datos Personales y garantía de los derechos digitales) complementa el RGPD con requisitos nacionales adicionales para el tratamiento de datos sanitarios.

Los agentes de IA en una consulta sanitaria pueden acceder o tratar de forma autónoma:

• Historial médico y registros diagnósticos de pacientes
• Listados de medicación y datos de prescripción
• Notas de citas y tratamientos
• Metadatos de imágenes médicas
• Registros de salud mental o psiquiátricos
• Cartas de derivación con evaluaciones clínicas
• Datos de seguros y facturación vinculados a condiciones de salud

Exposición clave al RGPD: Un agente de IA que accede y trata datos de salud de forma autónoma sin una base jurídica documentada conforme al Artículo 9(2), sin una EIPD completada bajo el Artículo 35 y sin supervisión humana documentada genera violaciones simultáneas de los Artículos 5, 9, 22 y 35 — en un único flujo de trabajo automatizado.

Esta exposición no es hipotética. Es el estado predeterminado de la mayoría de las herramientas de automatización IA comerciales que se venden a consultas sanitarias sin una arquitectura orientada al cumplimiento. Para un desglose completo de tus obligaciones básicas, consulta nuestra guía sobre requisitos RGPD para consultas sanitarias independientes.

De la Investigación MIT a las Obligaciones del RGPD

Artículo 5(1)(f): Integridad y Confidencialidad en Sistemas Autónomos

El Artículo 5(1)(f) del RGPD exige que los datos personales se traten con la seguridad adecuada, protegiéndolos contra el tratamiento no autorizado o ilícito, la pérdida accidental, la destrucción o el daño. Para los agentes de IA, la integridad y la confidencialidad no son una configuración puntual — son un requisito operativo continuo. Cada herramienta que el agente invoca, cada API externa a la que se conecta y cada resultado que genera es un vector potencial de pérdida de datos o acceso no autorizado que debe ser gobernado, monitorizado y documentado.

Artículo 35: Cuándo los Agentes IA Exigen una EIPD Obligatoria

Los agentes de IA que tratan datos de salud de categoría especial bajo el Artículo 9 del RGPD casi con certeza activan una EIPD obligatoria conforme al Artículo 35. El RGPD (conocido internacionalmente como GDPR) exige una EIPD cuando el tratamiento «pueda entrañar un alto riesgo» para las personas — y el tratamiento autónomo mediante IA de historiales sanitarios, combinado con la toma de decisiones automatizada, alcanza este umbral en prácticamente todos los escenarios de despliegue en sanidad. No completar una EIPD antes del despliegue constituye en sí mismo una infracción del RGPD, independientemente de que posteriormente se produzca alguna brecha.

Lista de verificación EIPD para el despliegue de agentes IA en sanidad:

1. ¿A qué datos personales accede el agente?
2. ¿Trata el agente datos de categoría especial (Artículo 9)?
3. ¿Interviene la toma de decisiones automatizada (Artículo 22)?
4. ¿Cuál es la cadena de subencargados del tratamiento?
5. ¿Está el acceso limitado a los datos estrictamente necesarios?
6. ¿Se registran y auditan las acciones del agente?

Artículo 28: Mapeo de Subencargados del Tratamiento en Cadenas de Herramientas IA

Cada servicio externo que un agente de IA invoca — una API de LLM, una plataforma de agenda, una base de datos en la nube, una herramienta de comunicación — es un potencial subencargado del tratamiento bajo el Artículo 28. Cada relación de subencargado requiere un Acuerdo de Tratamiento de Datos, y tú como responsable del tratamiento sigues siendo responsable de su cumplimiento. La complejidad de las cadenas de herramientas documentada en el Índice de Agentes IA MIT 2025 significa que un único despliegue de agente de IA puede involucrar cinco, diez o más subencargados — cada uno de los cuales debe ser identificado, evaluado y gobernado contractualmente antes de que el agente trate un solo historial de paciente.

5 Modos de Fallo de los Agentes IA sin Cumplimiento RGPD

La mayoría de los fallos de cumplimiento con agentes de IA en sanidad no provienen de ataques sofisticados — provienen de patrones de despliegue que nunca fueron diseñados con el RGPD en mente.

Modo de fallo 1: Sin modelo de gobernanza de IA documentado La consulta ha desplegado un agente de IA pero no tiene una política escrita que describa a qué datos accede, quién es el responsable y cómo se revisan las decisiones. Bajo el Artículo 5(2) del RGPD, el principio de responsabilidad proactiva exige que puedas demostrar el cumplimiento — los despliegues sin documentar no superan esta prueba automáticamente.

Modo de fallo 2: Sin EIPD antes del despliegue El agente de IA se incorporó rápidamente sin una evaluación formal de riesgos. Esta es una infracción autónoma del RGPD bajo el Artículo 35, independiente de que se haya producido algún perjuicio — y la Agencia Española de Protección de Datos (AEPD) ha impuesto sanciones precisamente por este incumplimiento procedimental. La AEPD ha demostrado de forma reiterada que la ausencia de una EIPD previa al despliegue es motivo suficiente para sancionar, independientemente del tamaño de la organización.

Modo de fallo 3: Acceso excesivo a datos por comodidad Al agente se le ha dado acceso amplio a la base de datos para evitar la complejidad de configuración. El Artículo 5(1)(c) del RGPD — el principio de minimización de datos — exige que el acceso se limite a lo estrictamente necesario. El acceso amplio no es un inconveniente técnico que pueda solucionarse después; es una infracción continuada.

Modo de fallo 4: Tratamiento en la nube sin revisión arquitectónica Los datos de pacientes fluyen a través de un servicio de IA en la nube sin que la consulta haya evaluado dónde se tratan los datos, bajo qué jurisdicción y si existen Cláusulas Contractuales Tipo u otros mecanismos de transferencia. Si los datos salen del EEE, se aplica el Capítulo V del RGPD — y la mayoría de las consultas no pueden demostrar cumplimiento en este aspecto para sus cadenas de herramientas IA.

Modo de fallo 5: Sin registro de las acciones ejecutadas por IA El agente ejecuta flujos de trabajo, pero no existe un registro de auditoría que documente qué datos se accedieron, qué decisiones se tomaron y qué resultados se produjeron. Sin registros, no puedes responder a una solicitud de acceso de un interesado, investigar una brecha ni demostrar responsabilidad proactiva ante una autoridad de control.

Cómo Desplegar Agentes IA con Cumplimiento RGPD

El despliegue conforme de agentes de IA en sanidad es arquitectónicamente específico, no se resuelve simplemente añadiendo una política de privacidad y marcando una casilla de consentimiento.

• Mapeo de datos: Cada dato al que accede el agente se cataloga, con la base jurídica documentada para cada tipo de dato antes de que el agente se active.
• Decisión arquitectónica (local / híbrida / nube controlada): La ubicación del tratamiento es una decisión de cumplimiento, no solo de costes — consulta nuestro análisis sobre arquitectura IA local para la soberanía de datos sanitarios y soluciones de IA híbrida en sanidad.
• Alcance de acceso: Los permisos del agente se definen al mínimo necesario para su función específica — no al acceso más amplio que resulte cómodo para el proveedor.
• Registro y auditabilidad: Cada acción del agente se registra con detalle suficiente para reconstruir qué datos se accedieron, cuándo y qué se produjo — permitiendo responder a solicitudes de derechos de los interesados e investigar brechas.
• Razonamiento de cumplimiento documentado: La EIPD, las evaluaciones de base jurídica y las decisiones de gobernanza están escritas, fechadas y versionadas — no implícitas ni asumidas.
• Auditoría de subencargados: Cada herramienta que el agente invoca está identificada, evaluada y cubierta por un Acuerdo de Tratamiento de Datos conforme al Artículo 28.

Para clínicas dentales y consultas especializadas en particular, consulta nuestra guía sobre automatización IA conforme para clínicas dentales, que cubre estos patrones de despliegue en un contexto sectorial específico.

Preguntas Clave para Propietarios de Consultas sobre Agentes IA

¿Los agentes de IA en sanidad requieren una EIPD bajo el RGPD? Sí, en prácticamente todos los casos. El Artículo 35 del RGPD exige una Evaluación de Impacto sobre la Protección de Datos cuando el tratamiento pueda entrañar un alto riesgo para las personas. Los agentes de IA que acceden a historiales sanitarios, tratan datos de categoría especial o toman o apoyan decisiones automatizadas que afectan a pacientes alcanzan este umbral. La EIPD debe completarse antes de que se despliegue el agente, no después. La Agencia Española de Protección de Datos (AEPD) aplica activamente este requisito a empresas sanitarias de todos los tamaños.

¿Qué significa el Artículo 5(1)(f) del RGPD para agentes IA que manejan datos de pacientes? El Artículo 5(1)(f) exige que los datos de pacientes se traten con la seguridad adecuada — protegiendo la integridad, confidencialidad y disponibilidad. Para los agentes de IA, esto significa que cada componente de la cadena de herramientas del agente debe evaluarse en cuanto a controles de seguridad, que el acceso esté autenticado y registrado, y que la consulta pueda demostrar (conforme al Artículo 5(2)) que estos controles se mantienen activamente. La certificación de seguridad de un proveedor no sustituye tu propia demostración de cumplimiento.

¿Cómo identifico los subencargados del tratamiento en un flujo de trabajo de agente IA? Empieza por cada llamada API que realiza el agente. Cada servicio externo que recibe o trata datos personales es un potencial subencargado del tratamiento. Solicita una lista de subencargados a tu proveedor de IA — es tu derecho bajo el RGPD. Comprueba si cada subencargado tiene un Acuerdo de Tratamiento de Datos firmado con tu proveedor, y si tu proveedor te notifica los cambios en su cadena de subencargados. Muchas consultas sanitarias descubren subencargados no declarados solo después de un incidente; una auditoría previa al despliegue lo previene.

¿Está permitido el tratamiento autónomo de datos de salud mediante IA bajo el RGPD? Puede estarlo, pero solo con la base jurídica correcta tanto bajo el Artículo 6 como bajo el Artículo 9(2), una EIPD completada, mecanismos de supervisión humana documentados cuando lo exija el Artículo 22, y subencargados del tratamiento gobernados contractualmente. El tratamiento autónomo de datos de salud sin este marco no es una carencia de cumplimiento a abordar en el futuro — es una infracción en curso. Si tu agente de IA ya está desplegado sin esta documentación, la acción correcta es pausar el tratamiento de datos y completar el trabajo de cumplimiento antes de reanudarlo.

¿Qué exige la Ley de IA de la UE para agentes de IA en sanidad? La Ley de IA de la UE clasifica los sistemas de IA utilizados en sanidad como de alto riesgo bajo el Anexo III, que incluye sistemas utilizados en la gestión y operación de infraestructuras críticas y aquellos utilizados para evaluar la salud o la seguridad de las personas físicas. Los sistemas de IA de alto riesgo requieren evaluaciones de conformidad, registro en la base de datos de sistemas de IA de la UE, sistemas continuos de gestión de riesgos, documentación técnica y obligaciones de transparencia hacia los usuarios. Esto se superpone — no sustituye — a las obligaciones del RGPD. Las consultas que despliegan automatización IA deben evaluar sus sistemas frente a ambos marcos de forma simultánea.

Conclusión

El Índice de Agentes IA MIT 2025 confirma lo que el RGPD anticipó: los sistemas autónomos que operan sobre datos sensibles sin una gobernanza adecuada generan un riesgo jurídico acumulativo que crece con cada acción automatizada que el agente ejecuta sin supervisión. Para las consultas sanitarias independientes en la UE, esto no es un problema futuro — los agentes de IA se venden y despliegan hoy, a menudo sin la infraestructura de cumplimiento que los haga legales para operar.

Si tu consulta está evaluando o ya ha desplegado automatización con IA, el primer paso es entender exactamente a qué datos acceden tus sistemas, quién los trata y si puedes demostrar cumplimiento ante la AEPD o tu autoridad de control nacional. Comienza con nuestra Hoja de Ruta de Automatización gratuita para identificar tus puntos de exposición, o explora MedCore Private AI — nuestra solución local diseñada para el cumplimiento RGPD sanitario desde la arquitectura.

Este artículo hace referencia a investigación disponible públicamente del MIT AI Agent Index 2025. Tiene finalidad informativa y no constituye asesoramiento jurídico. Las organizaciones sanitarias deben consultar a profesionales jurídicos y de cumplimiento cualificados respecto a sus obligaciones específicas bajo el RGPD.