El cumplimiento normativo de la IA conversacional en el ámbito sanitario implica demostrar, con pruebas, que un agente de chat o de voz protege los datos de los pacientes, informa a las personas de que es una IA, deriva la conversación a una persona cuando corresponde y mantiene ese comportamiento tras su puesta en marcha. La declaración de cumplimiento de HIPAA de un proveedor solo cubre una parte de esos requisitos. El resto depende de lo que el agente realmente dice y hace en las conversaciones en producción, y de quién asume la responsabilidad dentro de su organización.
Esta guía aborda las normas aplicables en EE. UU. y a las empresas estadounidenses que atienden a personas en Europa, los controles que esperan los reguladores y los expertos clínicos, y un método para evaluar agentes en interacciones reales.
En resumen
- Ningún agente de IA «cumple HIPAA» por sí solo. El cumplimiento depende de cómo se gestione la información sanitaria protegida (PHI), de qué proveedores tengan acceso a ella y de que existan acuerdos con asociados comerciales (BAA) y salvaguardas.
- El EU AI Act exige a los proveedores de sistemas de IA interactivos que informen a las personas de que están interactuando con una IA. Los proveedores de fuera de la UE también están sujetos a la norma cuando los resultados de sus sistemas se utilizan en la Unión.
- Las recomendaciones de los expertos coinciden en cuatro controles: información sobre el uso de IA, supervisión con intervención humana, pruebas rigurosas y protocolos de derivación en situaciones de crisis.
- El cumplimiento no es un hito de la puesta en marcha. Requiere una pista de auditoría, evaluaciones independientes periódicas y monitorización continua.
- Las organizaciones sanitarias asumen la responsabilidad principal del uso seguro, aunque el agente haya sido desarrollado por un proveedor.
Índice
- Qué significa el cumplimiento normativo para un agente de IA sanitario
- Las normas aplicables en EE. UU.
- El EU AI Act para las empresas estadounidenses que atienden a personas en Europa
- Los controles que esperan los reguladores y los expertos clínicos
- Quién es responsable: la organización o el proveedor
- Cómo evaluar un agente en interacciones reales
- Monitorización tras la puesta en marcha
- Perspectiva: por qué importan las pruebas independientes
- Qué aporta Lexic
- Preguntas frecuentes
- Fuentes
Qué significa el cumplimiento normativo para un agente de IA sanitario
Un documento de consenso de expertos de 2025 sobre agentes de IA conversacional seguros y éticos en el ámbito sanitario define el cumplimiento como la observancia de las normativas pertinentes y de los marcos éticos sanitarios. Vincula el uso seguro con la rendición de cuentas, la supervisión humana y la evaluación continua. De ello se derivan tres niveles.
- Cumplimiento legal. Normas de privacidad, seguridad, información y protección de los consumidores aplicables a la organización y al agente.
- Seguridad clínica y ética. El agente se mantiene dentro de su ámbito de actuación, no da a entender que posee una autoridad clínica de la que carece y deriva la conversación cuando esta entraña riesgos.
- Pruebas operativas. Registros que demuestran que los dos primeros niveles se han respetado en la práctica, no solo en los documentos de diseño.
La mayoría de las organizaciones son más sólidas en el primer nivel y más débiles en el tercero. Una política establece que el agente derivará las situaciones de crisis. Pocos equipos pueden demostrar con qué frecuencia lo hizo.
Cumplimiento y gobernanza no son lo mismo
El cumplimiento responde a si la organización ha respetado una norma. La gobernanza responde a quién decide qué puede hacer el agente, quién lo supervisa y qué ocurre cuando su comportamiento se desvía. Un análisis de 2026 publicado en npj Digital Medicine sostiene que la gobernanza de la IA sanitaria carece actualmente de un enfoque global, y que la fragmentación de los marcos dificulta a las organizaciones abordar las cuestiones éticas y normativas en entornos reales. La gobernanza es la estructura que evita que el cumplimiento se deteriore tras la entrada en producción.
Las normas aplicables en EE. UU.
HIPAA: privacidad, seguridad y asociados comerciales
Las normas de privacidad y seguridad de HIPAA se aplican cuando una entidad sujeta a la ley o un asociado comercial crea, recibe, conserva o transmite PHI. Las directrices del HHS sobre tecnologías de seguimiento establecen el principio que también rige para los chatbots: un proveedor tecnológico es un asociado comercial si trata PHI por cuenta de una entidad regulada, y en esas circunstancias se exige un BAA.
En la práctica, esto plantea cuatro preguntas para cualquier agente que interactúe con pacientes:
- ¿Por dónde circula la PHI? Siga su recorrido desde la interfaz hasta el proveedor del modelo, las transcripciones, los registros, las herramientas de análisis y las copias de seguridad. Cada destino de la PHI necesita controles y, por lo general, un BAA.
- ¿Qué se almacena? Las revisiones sobre seguridad de la información sanitaria recomiendan recopilar únicamente la información personal imprescindible y eliminarla cuando deje de ser necesaria.
- ¿Está cifrada la ePHI? Una revisión de seguridad de los chatbots de IA en la atención sanitaria destaca la importancia de realizar evaluaciones de riesgos y auditorías periódicas, incluido el cifrado de la ePHI durante su almacenamiento y transmisión.
- ¿Pueden los usuarios divulgar PHI por accidente? Las transcripciones pueden contener nombres, apodos y datos geográficos. Los autores de JAMA aconsejan a los profesionales clínicos evitar introducir PHI en chatbots de propósito general, y señalan que las normas del HHS enumeran al menos 18 identificadores que deben eliminarse para que los datos se consideren desidentificados.
La elección del canal también importa. Las aplicaciones de mensajería de consumo son una trampa habitual en los procesos de gestión de citas y seguimiento, y esta explicación de por qué WhatsApp no cumple HIPAA muestra cómo un canal cómodo puede invalidar un diseño por lo demás cuidadoso.
Leyes estatales sobre cómo se presenta la IA
Las normas federales no lo abarcan todo. La ley AB 489 de California, en vigor desde el 1 de enero de 2026, prohíbe que los sistemas de IA utilicen títulos, iconos, frases o elementos de diseño que sugieran que el usuario recibe atención de un profesional habilitado, salvo que esa supervisión sea real. También restringe el lenguaje comercial que da a entender que existe competencia clínica, según un resumen del texto legislativo elaborado por un despacho de abogados. Para un agente llamado «Dra. Ava» o uno que diga «nuestro equipo clínico recomienda», se trata de una cuestión de diseño y de guion, y solo puede comprobarse leyendo lo que dice el agente.
Otros estados están legislando sobre la obligación de informar del uso de IA y sobre los chatbots relacionados con la salud. Las organizaciones sanitarias que operan en varios estados deben hacer un seguimiento de cada estado en el que atienden a pacientes y confirmar los requisitos vigentes con sus asesores jurídicos.
El EU AI Act para las empresas estadounidenses que atienden a personas en Europa
Una red sanitaria, una empresa de telemedicina o un proveedor de salud digital estadounidense no necesita tener una oficina en la UE para estar sujeto a sus normas. Las directrices de la Comisión Europea sobre las obligaciones de transparencia del artículo 50 establecen que los proveedores de sistemas de IA interactivos incluidos en su ámbito de aplicación deben informar a las personas físicas de que están interactuando con una IA, y que los proveedores de fuera de la UE también están sujetos a las normas cuando los resultados se utilizan en la Unión.
A partir del 2 de agosto de 2026, esos requisitos de transparencia se aplican a los chatbots, incluidos los del ámbito sanitario. La transparencia debe incorporarse al diseño, no añadirse como una nota al pie.
La Comisión describe el enfoque basado en el riesgo del Reglamento como orientado a lograr un alto nivel de protección de la salud, la seguridad y los derechos fundamentales, al tiempo que promueve una IA fiable. Esto tiene tres consecuencias para una empresa estadounidense:
- La información sobre el uso de IA se puede comprobar. El agente debe identificarse como IA en el momento adecuado, en todos los canales e idiomas que utilice.
- El RGPD sigue siendo aplicable. Los datos de salud son datos sensibles, y el documento de consenso de expertos menciona tanto HIPAA como el RGPD entre las normas clave para los agentes conversacionales que tratan información sanitaria.
- La categoría de riesgo depende del uso. Un agente que reserva citas no se encuadra del mismo modo que uno que realiza el triaje de síntomas o influye en decisiones clínicas. Clasifique cada agente por su función, no por la etiqueta del proveedor.
Para obtener una visión más amplia de cómo los requisitos de privacidad y legales condicionan los chatbots sanitarios en otra jurisdicción, estos controles de cumplimiento para chatbots en Australia muestran cómo las normas de alojamiento de datos y consentimiento se traducen en decisiones concretas sobre la plataforma.
Los controles que esperan los reguladores y los expertos clínicos
Las recomendaciones del consenso de expertos indican que las organizaciones deben informar de que el agente es una IA y de sus limitaciones, obtener el consentimiento informado y aplicar supervisión con intervención humana, pruebas rigurosas, monitorización y protocolos de derivación en situaciones de crisis. Los mismos autores no encontraron consenso sobre la capacidad de estos agentes para realizar trabajo clínico independiente sin supervisión humana.
El marco de gobernanza de la AMA para la IA agéntica añade un principio útil de proporcionalidad: unas mayores consecuencias clínicas, combinadas con una mayor autonomía de la IA, exigen pruebas más sólidas de eficacia y seguridad. La autoridad se gana mediante pruebas y se mantiene mediante un rendimiento demostrado.
| Control | Qué exige | Cómo verificarlo |
|---|---|---|
| Información sobre el uso de IA | El agente indica pronto y con claridad que es una IA y expone sus límites | Conversaciones de prueba con guion en distintos canales e idiomas |
| Límites del ámbito de actuación | No emitir diagnósticos, no insinuar habilitación profesional ni inventar afirmaciones clínicas | Prompts adversarios y pruebas con distintos perfiles de usuario |
| Derivación | Transferencia a una persona cuando se solicita o ante señales de angustia o riesgo | Escenarios simulados de crisis y reclamaciones, con medición de la transferencia |
| Privacidad y seguridad | Recopilación mínima de datos, ausencia de filtraciones de PHI y resistencia a la manipulación | Pruebas de inyección de prompts y extracción de datos |
| Rendición de cuentas | Responsables designados para el diseño, el funcionamiento y los resultados | Registros de gobernanza y contratos con proveedores |
| Pista de auditoría | Registro y conservación de las entradas y salidas | Reconstrucción de una muestra de conversaciones anteriores |
La derivación merece la máxima atención
La derivación es donde más divergen las políticas y el comportamiento. En las auditorías realizadas por Lexic, el 85% de los agentes de IA evaluados no derivó adecuadamente los problemas a un representante humano. En el ámbito sanitario, una transferencia fallida puede significar que un paciente que describe un síntoma, una disputa de facturación o un momento de angustia reciba una respuesta predefinida en lugar de atención de una persona. Este hallazgo se refiere a los agentes evaluados por Lexic, no es una cifra de prevalencia para todos los despliegues sanitarios, pero demuestra por qué la derivación debe ponerse a prueba en lugar de darse por supuesta.

Quién es responsable: la organización o el proveedor
El consenso de expertos es claro: las instituciones sanitarias asumen la responsabilidad principal del uso transparente y seguro, mientras que los desarrolladores y proveedores deben incorporar al diseño la transparencia sobre la identidad de IA y divulgar información sobre los modelos y datos pertinentes. La responsabilidad del diseño, el funcionamiento y los resultados debe asignarse claramente en cada fase.
Para los equipos de compras, esto implica condiciones contractuales y solicitudes de pruebas como las siguientes:
- Un BAA siempre que se trate PHI, y una lista de subencargados del tratamiento.
- Documentación sobre los modelos subyacentes, las fuentes de datos y las limitaciones conocidas.
- Compromisos de derivación y notificación de incidentes con umbrales medibles.
- El derecho a que un tercero independiente someta al agente a pruebas.
- Notificación de cambios en el modelo o los prompts que puedan alterar su comportamiento.
El panel del propio proveedor es útil, pero no constituye una prueba independiente. Cuando un regulador, un consejo de administración o un cliente pregunta si el agente se comporta como se prometió, un informe del proveedor que lo desarrolló tiene un peso limitado.
Cómo evaluar un agente en interacciones reales
La Norma de IA Responsable del Departamento de Salud de Abu Dabi, una de las normas públicas de IA sanitaria más detalladas, establece que las organizaciones deben mantener una pista de auditoría digital de las entradas y salidas, documentar los resultados de validación y utilizar monitorización automatizada y evaluaciones periódicas para detectar desviaciones. Es una norma regional, pero su estructura constituye un buen modelo para cualquier programa estadounidense. Una evaluación práctica sigue estos pasos.
- Inventaríe todos los agentes. Incluya agentes de voz, chat, SMS y correo electrónico, tanto de proveedores como internos, junto con los datos a los que puede acceder cada uno.
- Vincule las obligaciones al comportamiento. Convierta cada norma en una afirmación verificable, por ejemplo: «el agente indica que es una IA antes de recopilar cualquier dato de salud».
- Realice pruebas como lo haría un usuario real. Ejecute conversaciones con guion y exploratorias: pacientes confundidos, personas alteradas que llaman, solicitudes de atención humana e intentos de extraer datos o de hacer que el agente exceda su ámbito de actuación.
- Puntúe distintas dimensiones. La experiencia del cliente, la seguridad, la fiabilidad técnica y el cumplimiento normativo revelan fallos diferentes.
- Conserve las pruebas. Guarde las transcripciones completas, las marcas de tiempo y las medidas de protección de la integridad para poder defender los hallazgos posteriormente.
- Asigne las correcciones. Cada hallazgo necesita un responsable, interno o del proveedor, y una fecha para repetir la prueba.
El consenso de expertos recomienda evaluar la eficacia mediante un conjunto independiente y normalizado de métricas cualitativas y cuantitativas, como la participación, la satisfacción y la precisión. La palabra «independiente» importa. La auditoría del comportamiento del aprendizaje automático sigue siendo una práctica emergente, como señala la revisión de seguridad de chatbots, pero, combinada con una evaluación proactiva de riesgos, reduce la distancia entre la previsión y el análisis retrospectivo.
En materia de documentación, la tabla de correspondencias del NIST entre su Marco de Gestión de Riesgos de IA e ISO/IEC 42001 vincula las especificaciones técnicas y los registros de monitorización del rendimiento con la auditoría interna y la evaluación de riesgos. Las organizaciones que estén desarrollando un sistema de gestión pueden utilizarla para alinear las pruebas de auditoría con ambos marcos.
Monitorización tras la puesta en marcha
Un agente que superó las pruebas en marzo puede fallar en septiembre. Los modelos se actualizan, las bases de conocimiento cambian, llegan nuevos grupos de pacientes y se modifican los prompts. La norma de Abu Dabi exige supervisión continua, detección automatizada de anomalías que active medidas correctivas, auditorías de seguridad periódicas, actualización de los procesos de riesgo a medida que evoluciona la IA y procedimientos de notificación de incidentes.
Una aportación de 2021 al NIST sobre su marco de riesgos de IA propuso que la gestión de riesgos fuera iterativa e incluyera el registro de entradas y salidas, de modo que pudiera reconstruirse la toma de decisiones. Los autores del consenso de expertos añaden que los marcos de rendición de cuentas deben incluir auditorías y revisiones de rendimiento periódicas para que los sistemas mantengan el cumplimiento a medida que cambian las normas y las capacidades.
Una cadencia de monitorización viable combina tres niveles:
- Continuo. Revisión automatizada de las conversaciones para detectar omisiones de información sobre la IA, transferencias fallidas, exposición de PHI y problemas de tono, con alertas a un responsable designado.
- Periódico. Auditorías independientes con una periodicidad fija y después de cualquier cambio sustancial en el modelo, los prompts, los canales o las integraciones.
- Activado por eventos. Un proceso de incidentes definido: contener, documentar, notificar según corresponda, corregir y repetir las pruebas.
Perspectiva: por qué importan las pruebas independientes
Observamos el mismo patrón en las evaluaciones de agentes de distintos sectores. Las organizaciones documentan cuidadosamente las políticas y los proveedores comunican sus propias métricas, pero pocas disponen de pruebas independientes de cómo se comporta el agente cuando una persona real lo pone a prueba. La derivación es el ejemplo más claro. Nuestras auditorías detectaron que el 85% de los agentes evaluados no derivaba adecuadamente, y ninguna de esas organizaciones estaba ignorando el problema. El fallo solo se hizo visible cuando alguien interactuó con el agente como lo haría un cliente.
En el ámbito sanitario, esta brecha tiene consecuencias más graves. Sostenemos que todo agente que hable con pacientes debe cumplir tres condiciones. Primero, debe ser evaluado desde fuera, por una parte sin intereses en el resultado. Segundo, las pruebas deben conservarse en un formato que permita verificarlas posteriormente; por eso aplicamos funciones hash criptográficas de terceros a las pruebas de auditoría. Tercero, la monitorización debe continuar tras la puesta en marcha, porque el comportamiento cambia cuando cambian los modelos, el contenido y los usuarios.
La gobernanza tampoco debe separarse del conocimiento del cliente. Las mismas conversaciones que revelan carencias de cumplimiento muestran dónde los pacientes se confunden, se frustran o abandonan. Tratarlas como un único conjunto de pruebas proporciona a los equipos de cumplimiento, experiencia del cliente y operaciones una visión compartida.
— Sergio Llorens
Qué aporta Lexic
Lexic Compass es una plataforma de auditoría de agentes de IA que evalúa de forma independiente agentes conversacionales de cualquier proveedor, interactuando con ellos como lo harían usuarios reales. Evalúa la experiencia del cliente, la seguridad, la fiabilidad técnica y el cumplimiento normativo, incluidos problemas que la monitorización convencional puede pasar por alto, y genera pruebas para gobernar los agentes en producción y exigir responsabilidades a los proveedores.
Los servicios están disponibles en las modalidades Flash Preview, Audit Sprint y Enterprise Continuous Trust, descritas en la página de servicios de auditoría de Lexic. Para analizar el volumen completo de conversaciones en llamadas, chats, correos electrónicos y tickets, Lexic Pulse proporciona información sobre sentimiento, abandono de clientes y oportunidades. Los precios no están publicados; contacte con Lexic a través del sitio web para concretar el alcance y las condiciones.
Preguntas frecuentes
¿Existe un chatbot de IA que cumpla HIPAA?
No como un sello de conformidad. HIPAA se aplica a cómo se trata la PHI, no a una etiqueta de producto. Un chatbot puede utilizarse en un entorno regulado por HIPAA cuando existen salvaguardas adecuadas y un BAA con cualquier proveedor que trate PHI, y cuando se comprueba que su comportamiento real se ajusta a esos compromisos.
¿Se aplica el EU AI Act a una empresa sanitaria estadounidense?
Puede aplicarse. Las directrices de la Comisión Europea indican que los proveedores de fuera de la UE están sujetos a las normas de transparencia cuando los resultados de su sistema se utilizan en la Unión. Una empresa estadounidense con pacientes o usuarios en Europa debe confirmar la clasificación de cada agente e incorporar al diseño la información sobre el uso de IA.
¿Qué debe decir un chatbot sanitario sobre sí mismo?
Debe indicar que es una IA, describir sus límites y evitar títulos o señales que sugieran la intervención de un profesional clínico habilitado, salvo que sea cierto. La ley AB 489 de California aborda precisamente este tipo de presentación engañosa. Las recomendaciones de los expertos también aconsejan el consentimiento informado y una vía clara de acceso a una persona.
¿Con qué frecuencia deben auditarse los agentes de IA sanitarios?
No existe un único intervalo obligatorio común a todas las normas. Las normas y las recomendaciones de los expertos exigen monitorización continua y evaluaciones independientes periódicas, además de una nueva revisión tras cambios significativos en el modelo, los prompts o los canales. Fije la periodicidad en función de las consecuencias clínicas: cuanto mayores sean el riesgo y la autonomía, más frecuentes y rigurosas deben ser las pruebas.
¿Quién responde cuando el agente de un proveedor falla a un paciente?
Las instituciones sanitarias asumen la responsabilidad principal del uso seguro, según las recomendaciones del consenso de expertos, y se espera que los proveedores diseñen sus sistemas con transparencia y divulguen información sobre modelos y datos. La responsabilidad jurídica depende de los contratos y de los hechos, por lo que conviene contar con asesoramiento jurídico. Una asignación clara de la responsabilidad del diseño, el funcionamiento y los resultados reduce las disputas.
Fuentes
- Buenas prácticas consensuadas por expertos para el uso seguro, ético y eficaz de la IA conversacional en el ámbito sanitario (SAGE, 2025)
- Gobernanza para una IA segura y responsable en el ámbito sanitario (npj Digital Medicine, 2026)
- HHS: Uso de tecnologías de seguimiento en línea por entidades sujetas a HIPAA y asociados comerciales
- Seguridad de la información y confidencialidad en salud (PMC)
- Implicaciones de seguridad de los chatbots de IA en la atención sanitaria (PMC)
- Riesgos para la privacidad sanitaria de los chatbots de IA (JAMA)
- La IA sanitaria afronta nuevas salvaguardas en virtud de la ley AB 489 de California
- Comisión Europea: Directrices sobre las obligaciones de transparencia del artículo 50 del Reglamento de IA
- Comisión Europea: Orientaciones para la aplicación del EU AI Act
- AMA: Un marco de gobernanza para la IA agéntica que asume funciones clínicas
- Departamento de Salud de Abu Dabi: Norma de IA Responsable (2025)
- Tabla de correspondencias entre el AI RMF del NIST e ISO/IEC 42001
- Comentarios de Buoy Health sobre el AI RMF del NIST (2021)

