Cumplimiento normativo de la IA conversacional sanitaria: guía práctica

El cumplimiento normativo de la IA conversacional en el ámbito sanitario implica demostrar, con evidencias, que un agente de chat o voz protege los datos de los pacientes, informa a las personas de que es una IA, deriva la conversación a una persona cuando corresponde y mantiene ese comportamiento tras su puesta en marcha. La declaración de cumplimiento de HIPAA de un proveedor solo cubre una parte de estas obligaciones. El resto depende de lo que el agente dice y hace realmente en las conversaciones en producción, y de quién asume la responsabilidad dentro de su organización.

Esta guía aborda las normas aplicables en EE. UU. y a las empresas estadounidenses que atienden a personas en Europa, los controles que esperan los reguladores y los expertos clínicos, y un método para evaluar agentes en interacciones reales.

Resumen

• Ningún agente de IA «cumple con HIPAA» por sí solo. El cumplimiento depende de cómo se gestiona la información sanitaria protegida (PHI), de qué proveedores acceden a ella y de si existen acuerdos con socios comerciales (BAA) y salvaguardas.
• El EU AI Act exige a los proveedores de sistemas de IA interactivos informar a las personas de que están interactuando con IA. Los proveedores de fuera de la UE están sujetos a estas normas cuando los resultados de sus sistemas se utilizan en la Unión.
• Las recomendaciones de los expertos convergen en cuatro controles: transparencia sobre el uso de IA, supervisión con intervención humana, pruebas rigurosas y protocolos de derivación en situaciones de crisis.
• El cumplimiento no es un hito de la puesta en marcha. Requiere una pista de auditoría, evaluaciones independientes periódicas y monitorización continua.
• Las organizaciones sanitarias asumen la responsabilidad principal del uso seguro, aunque el agente haya sido desarrollado por un proveedor.

Índice

• Qué significa el cumplimiento normativo para un agente de IA sanitario
• Las normas aplicables en EE. UU.
• El EU AI Act para las empresas estadounidenses que atienden a personas en Europa
• Los controles que esperan los reguladores y los expertos clínicos
• Quién es responsable: la organización o el proveedor
• Cómo evaluar un agente en interacciones reales
• Monitorización tras la puesta en marcha
• Perspectiva: por qué importan las evidencias independientes
• Qué aporta Lexic
• Preguntas frecuentes
• Fuentes

Qué significa el cumplimiento normativo para un agente de IA sanitario

Un documento de consenso de expertos de 2025 sobre agentes de IA conversacional seguros y éticos en el ámbito sanitario define el cumplimiento como la observancia de las normativas pertinentes y los marcos éticos sanitarios. Vincula el uso seguro con la rendición de cuentas, la supervisión humana y la evaluación continua. De ello se desprenden tres niveles.

1. Cumplimiento legal. Normas de privacidad, seguridad, transparencia y protección del consumidor aplicables a la organización y al agente.
2. Seguridad clínica y ética. El agente se mantiene dentro de su ámbito de actuación, no da a entender que posee una autoridad clínica de la que carece y deriva la conversación cuando esta entraña riesgos.
3. Evidencias operativas. Registros que demuestran que los dos primeros niveles se han respetado en la práctica, no solo en los documentos de diseño.

La mayoría de las organizaciones destacan más en el primer nivel y menos en el tercero. Una política establece que el agente derivará las situaciones de crisis. Pocos equipos pueden demostrar con qué frecuencia lo hizo.

Cumplimiento y gobernanza no son lo mismo

El cumplimiento responde a si la organización ha respetado una norma. La gobernanza responde a quién decide qué puede hacer el agente, quién lo supervisa y qué ocurre cuando su comportamiento se desvía. Un análisis de 2026 publicado en npj Digital Medicine sostiene que la gobernanza de la IA sanitaria carece actualmente de un enfoque global y que la fragmentación de los marcos dificulta a las organizaciones abordar las cuestiones éticas y normativas en entornos reales. La gobernanza es la estructura que evita que el cumplimiento se deteriore tras la puesta en producción.

Las normas aplicables en EE. UU.

HIPAA: privacidad, seguridad y socios comerciales

Las normas de privacidad y seguridad de HIPAA se aplican cuando una entidad sujeta a la ley o un socio comercial crea, recibe, conserva o transmite PHI. Las directrices del HHS sobre tecnologías de seguimiento establecen el principio que también rige para los chatbots: un proveedor tecnológico es un socio comercial si trata PHI por cuenta de una entidad regulada, y en esas circunstancias se requiere un BAA.

En la práctica, esto plantea cuatro preguntas para cualquier agente que interactúe con pacientes:

• ¿Por dónde circula la PHI? Siga su recorrido desde la interfaz, pasando por el proveedor del modelo, las transcripciones, los registros, las herramientas de análisis y las copias de seguridad. Cada destino de la PHI necesita controles y, normalmente, un BAA.
• ¿Qué se almacena? Las revisiones sobre seguridad de la información sanitaria recomiendan recopilar solo la información personal imprescindible y eliminarla cuando deje de ser necesaria.
• ¿Está cifrada la ePHI? Una revisión sobre la seguridad de los chatbots de IA en la atención sanitaria destaca la importancia de las evaluaciones de riesgos y auditorías periódicas, incluido el cifrado de la ePHI durante su almacenamiento y transmisión.
• ¿Pueden los usuarios filtrar PHI por accidente? Las transcripciones pueden contener nombres, apodos y detalles geográficos. Los autores de un artículo de JAMA aconsejan a los profesionales clínicos evitar introducir PHI en chatbots de propósito general y señalan que las normas del HHS enumeran al menos 18 identificadores que deben eliminarse para que los datos se consideren desidentificados.

La elección del canal también importa. Las aplicaciones de mensajería de consumo son una trampa habitual en los flujos de trabajo de citas y seguimiento, y esta explicación de por qué WhatsApp no cumple con HIPAA muestra cómo un canal cómodo puede desbaratar un diseño por lo demás cuidadoso.

Leyes estatales sobre cómo se presenta la IA

Las normas federales no lo abarcan todo. La ley AB 489 de California, en vigor desde el 1 de enero de 2026, prohíbe que los sistemas de IA utilicen títulos, iconos, expresiones o elementos de diseño que sugieran que el usuario recibe atención de un profesional habilitado, salvo que esa supervisión exista realmente. También restringe el lenguaje comercial que implique conocimientos clínicos especializados, según el resumen de la ley elaborado por un despacho de abogados. Para un agente llamado «Dra. Ava» o que diga «nuestro equipo clínico recomienda», se trata de una cuestión de diseño y guion que solo puede comprobarse leyendo lo que dice el agente.

Otros estados están legislando sobre la obligación de informar del uso de IA y sobre los chatbots relacionados con la salud. Las organizaciones sanitarias que operan en varios estados deben hacer un seguimiento de cada estado en el que atienden a pacientes y confirmar los requisitos vigentes con sus asesores jurídicos.

El EU AI Act para las empresas estadounidenses que atienden a personas en Europa

Una red sanitaria, una empresa de telesalud o un proveedor de salud digital estadounidense no necesita tener una oficina en la UE para estar sujeto a sus normas. Las directrices de la Comisión Europea sobre las obligaciones de transparencia del artículo 50 establecen que los proveedores de sistemas de IA interactivos incluidos en su ámbito de aplicación deben informar a las personas físicas de que están interactuando con IA, y que los proveedores de fuera de la UE también están sujetos a estas normas cuando los resultados se utilizan en la Unión.

A partir del 2 de agosto de 2026, estos requisitos de transparencia se aplican a los chatbots, incluidos los del ámbito sanitario. La transparencia debe incorporarse al diseño, no añadirse como una nota al pie.

La Comisión describe el enfoque basado en el riesgo del Reglamento como una vía para alcanzar un alto nivel de protección de la salud, la seguridad y los derechos fundamentales, al tiempo que fomenta una IA fiable. Esto tiene tres consecuencias para una empresa estadounidense:

• La obligación de informar puede someterse a pruebas. El agente debe identificarse como IA en el momento adecuado, en todos los canales e idiomas que utilice.
• El RGPD sigue siendo aplicable. Los datos de salud son datos sensibles, y el documento de consenso de expertos menciona tanto HIPAA como el RGPD entre las normas clave para los agentes conversacionales que tratan información sanitaria.
• La categoría de riesgo depende del uso. Un agente que reserva citas no se encuentra en la misma situación que uno que realiza triaje de síntomas o influye en decisiones clínicas. Clasifique cada agente según su función, no según la etiqueta del proveedor.

Para obtener una visión más amplia de cómo los requisitos legales y de privacidad condicionan los chatbots sanitarios en otra jurisdicción, estos controles de cumplimiento para chatbots en Australia muestran cómo las normas sobre alojamiento de datos y consentimiento se traducen en decisiones concretas sobre la plataforma.

Los controles que esperan los reguladores y los expertos clínicos

Las recomendaciones del consenso de expertos aconsejan a las organizaciones revelar que el agente es una IA y explicar sus limitaciones, obtener el consentimiento informado y utilizar supervisión con intervención humana, pruebas rigurosas, monitorización y protocolos de derivación en situaciones de crisis. Los mismos autores no encontraron consenso sobre la capacidad de estos agentes para realizar trabajo clínico independiente sin supervisión humana.

El marco de gobernanza de la AMA para la IA agéntica añade un principio útil de proporcionalidad: unas mayores consecuencias clínicas combinadas con una mayor autonomía de la IA requieren evidencias más sólidas de eficacia y seguridad. La autoridad se obtiene mediante evidencias y se mantiene mediante un rendimiento demostrado.

La derivación merece la máxima atención

La derivación es donde más divergen las políticas y el comportamiento. En las auditorías realizadas por Lexic, el 85% de los agentes de IA evaluados no derivaron adecuadamente los problemas a un representante humano. En el ámbito sanitario, un fallo de transferencia puede hacer que un paciente que describe un síntoma, una disputa de facturación o un momento de angustia reciba una respuesta predefinida en lugar de atención de una persona. Este hallazgo se refiere a los agentes evaluados por Lexic, no es una cifra de prevalencia para todos los despliegues sanitarios, pero muestra por qué la derivación debe comprobarse en lugar de darse por sentada.

Quién es responsable: la organización o el proveedor

El consenso de expertos es claro: las instituciones sanitarias asumen la responsabilidad principal del uso transparente y seguro, mientras que los desarrolladores y proveedores deben incorporar al diseño la transparencia sobre la identidad de IA y revelar los modelos y datos pertinentes. La responsabilidad del diseño, el funcionamiento y los resultados debe asignarse con claridad en cada etapa.

Para los equipos de compras, esto implica condiciones contractuales y solicitudes de evidencias como las siguientes:

• Un BAA siempre que se trate PHI y una lista de subencargados del tratamiento.
• Documentación de los modelos subyacentes, las fuentes de datos y las limitaciones conocidas.
• Compromisos de derivación y notificación de incidentes con umbrales medibles.
• El derecho a que un tercero independiente someta al agente a pruebas.
• Notificación de los cambios en el modelo o los prompts que puedan alterar su comportamiento.

El panel del propio proveedor es útil, pero no constituye una evidencia independiente. Cuando un regulador, un consejo de administración o un cliente pregunta si el agente se comporta como se prometió, un informe del proveedor que lo desarrolló tiene un valor limitado.

Cómo evaluar un agente en interacciones reales

La Norma de IA Responsable del Departamento de Salud de Abu Dabi, una de las normas públicas más detalladas sobre IA sanitaria, establece que las organizaciones deben mantener una pista de auditoría digital de las entradas y salidas, documentar los resultados de validación y utilizar monitorización automatizada y evaluaciones periódicas para detectar desviaciones. Es una norma regional, pero su estructura es un buen modelo para cualquier programa estadounidense. Una evaluación práctica sigue estos pasos.

1. Inventaríe todos los agentes. Incluya agentes de voz, chat, SMS y correo electrónico, tanto de proveedores como de desarrollo interno, junto con los datos a los que puede acceder cada uno.
2. Vincule las obligaciones con el comportamiento. Convierta cada norma en una afirmación verificable, por ejemplo: «el agente indica que es una IA antes de recopilar cualquier dato de salud».
3. Realice las pruebas como lo haría un usuario real. Lleve a cabo conversaciones con guion y exploratorias: pacientes confundidos, personas molestas que llaman, solicitudes de atención humana, intentos de extraer datos o de llevar al agente más allá de su ámbito de actuación.
4. Puntúe distintas dimensiones. La experiencia del cliente, la seguridad, la fiabilidad técnica y el cumplimiento normativo revelan fallos diferentes.
5. Conserve las evidencias. Guarde las transcripciones completas, las marcas de tiempo y las protecciones de integridad para poder defender posteriormente los hallazgos.
6. Asigne las correcciones. Cada hallazgo necesita un responsable, interno o del proveedor, y una fecha para repetir la prueba.

El consenso de expertos recomienda evaluar la eficacia mediante un conjunto independiente y normalizado de métricas cualitativas y cuantitativas, como la participación, la satisfacción y la precisión. La palabra independiente importa. Auditar el comportamiento del aprendizaje automático sigue siendo una práctica emergente, como señala la revisión sobre seguridad de chatbots, pero combinada con una evaluación proactiva de riesgos reduce la distancia entre la previsión y el análisis retrospectivo.

En cuanto a la documentación, la tabla de correspondencias del NIST entre su Marco de Gestión de Riesgos de IA e ISO/IEC 42001 vincula las especificaciones técnicas y los registros de seguimiento del rendimiento con la auditoría interna y la evaluación de riesgos. Las organizaciones que estén desarrollando un sistema de gestión pueden utilizarla para alinear las evidencias de auditoría con ambos marcos.

Monitorización tras la puesta en marcha

Un agente que superó las pruebas en marzo puede fallar en septiembre. Los modelos se actualizan, las bases de conocimiento cambian, llegan nuevas poblaciones de pacientes y se modifican los prompts. La norma de Abu Dabi exige supervisión continua, detección automatizada de anomalías que active medidas correctivas, auditorías periódicas de seguridad, actualización de los procesos de riesgos a medida que evoluciona la IA y procedimientos de notificación de incidentes.

Una aportación de 2021 al NIST sobre su marco de riesgos de IA propuso que la gestión de riesgos fuera iterativa e incluyera el registro de entradas y salidas, para poder reconstruir la toma de decisiones. Los autores del consenso de expertos añaden que los marcos de rendición de cuentas deben incluir auditorías y revisiones periódicas del rendimiento para que los sistemas mantengan el cumplimiento a medida que cambian las normas y las capacidades.

Una cadencia de monitorización viable combina tres niveles:

• Continuo. Revisión automatizada de las conversaciones para detectar omisiones de información sobre el uso de IA, fallos de transferencia, exposición de PHI y problemas de tono, con alertas a un responsable designado.
• Periódico. Auditorías independientes con una frecuencia fija y después de cualquier cambio sustancial en el modelo, los prompts, los canales o las integraciones.
• Activado por eventos. Un proceso definido de gestión de incidentes: contener, documentar, notificar según corresponda, corregir y volver a probar.

Perspectiva: por qué importan las evidencias independientes

Observamos el mismo patrón en las evaluaciones de agentes de distintos sectores. Las organizaciones documentan cuidadosamente sus políticas y los proveedores comunican sus propias métricas, pero pocas cuentan con evidencias independientes de cómo se comporta el agente cuando una persona real lo pone a prueba. La derivación es el ejemplo más claro. Nuestras auditorías revelaron que el 85% de los agentes evaluados no derivaban adecuadamente, y ninguna de esas organizaciones estaba ignorando la cuestión. El fallo solo se hizo visible cuando alguien interactuó con el agente como lo haría un cliente.

En el ámbito sanitario, esta brecha tiene consecuencias más graves. Consideramos que cualquier agente que converse con pacientes debe cumplir tres condiciones. En primer lugar, debe someterse a pruebas externas realizadas por una parte sin intereses en el resultado. En segundo lugar, las evidencias deben conservarse en un formato que pueda verificarse posteriormente; por eso aplicamos funciones hash criptográficas de terceros a las evidencias de auditoría. En tercer lugar, la monitorización debe continuar tras la puesta en marcha, porque el comportamiento cambia cuando cambian los modelos, el contenido y los usuarios.

La gobernanza tampoco debe separarse del conocimiento del cliente. Las mismas conversaciones que revelan carencias de cumplimiento muestran dónde los pacientes se confunden, se frustran o abandonan. Tratarlas como un único conjunto de evidencias proporciona una visión compartida a los equipos de cumplimiento, experiencia del cliente y operaciones.

— Sergio Llorens

Qué aporta Lexic

Lexic Compass es una plataforma de auditoría de agentes de IA que evalúa de forma independiente agentes conversacionales de cualquier proveedor, interactuando con ellos como lo harían usuarios reales. Evalúa la experiencia del cliente, la seguridad, la fiabilidad técnica y el cumplimiento normativo, incluidos problemas que la monitorización convencional puede pasar por alto, y genera evidencias para gobernar los agentes en producción y exigir responsabilidades a los proveedores.

Los servicios están disponibles en las modalidades Flash Preview, Audit Sprint y Enterprise Continuous Trust, descritas en la página de servicios de auditoría de Lexic. Para analizar el volumen completo de conversaciones en llamadas, chats, correos electrónicos y tickets, Lexic Pulse ofrece información sobre sentimiento, abandono de clientes y oportunidades. Los precios no están publicados; contacte con Lexic a través del sitio web para conocer el alcance y las condiciones.

Preguntas frecuentes

¿Existe un chatbot de IA que cumpla con HIPAA?

No como un sello de conformidad. HIPAA se aplica a cómo se trata la PHI, no a la etiqueta de un producto. Un chatbot puede utilizarse en un entorno regulado por HIPAA cuando existen salvaguardas adecuadas y un BAA con cada proveedor que trate PHI, y cuando se comprueba que su comportamiento real respeta esos compromisos.

¿Se aplica el EU AI Act a una empresa sanitaria estadounidense?

Puede aplicarse. Las directrices de la Comisión Europea indican que los proveedores de fuera de la UE están sujetos a las normas de transparencia cuando los resultados de su sistema se utilizan en la Unión. Una empresa estadounidense con pacientes o usuarios en Europa debe confirmar la clasificación de cada agente e incorporar al diseño la información sobre su condición de IA.

¿Qué debe decir un chatbot sanitario sobre sí mismo?

Debe indicar que es una IA, describir sus límites y evitar títulos o señales que impliquen la participación de un profesional clínico habilitado, salvo que sea cierto. La ley AB 489 de California aborda precisamente este tipo de presentación engañosa. Las recomendaciones de los expertos también aconsejan obtener el consentimiento informado y ofrecer una vía clara de acceso a una persona.

¿Con qué frecuencia deben auditarse los agentes de IA sanitarios?

No existe un único intervalo obligatorio común a todas las normas. Las normas y las recomendaciones de los expertos exigen monitorización continua y evaluaciones independientes periódicas, además de una nueva revisión tras cambios significativos en el modelo, los prompts o los canales. Establezca la frecuencia según las consecuencias clínicas: cuanto mayores sean los riesgos y la autonomía, más frecuente y rigurosa deberá ser la obtención de evidencias.

¿Quién responde cuando el agente de un proveedor falla a un paciente?

Las instituciones sanitarias asumen la responsabilidad principal del uso seguro, según las recomendaciones del consenso de expertos, y se espera que los proveedores diseñen con transparencia y revelen los modelos y los datos. La responsabilidad jurídica depende de los contratos y de los hechos, por lo que debe contar con asesoramiento jurídico. Asignar con claridad la responsabilidad del diseño, el funcionamiento y los resultados reduce las disputas.

Fuentes

• Buenas prácticas consensuadas por expertos para el uso seguro, ético y eficaz de la IA conversacional en la atención sanitaria (SAGE, 2025)
• Gobernanza para una IA segura y responsable en la atención sanitaria (npj Digital Medicine, 2026)
• HHS: uso de tecnologías de seguimiento en línea por entidades sujetas a HIPAA y socios comerciales
• Seguridad de la información y confidencialidad en la salud (PMC)
• Implicaciones de seguridad de los chatbots de IA en la atención sanitaria (PMC)
• Riesgos para la privacidad sanitaria de los chatbots de IA (JAMA)
• La IA sanitaria afronta nuevas salvaguardas bajo la ley AB 489 de California
• Comisión Europea: directrices sobre las obligaciones de transparencia del artículo 50 del Reglamento de IA
• Comisión Europea: orientaciones para la aplicación del EU AI Act
• AMA: un marco de gobernanza para la IA agéntica que asume funciones clínicas
• Departamento de Salud de Abu Dabi: Norma de IA Responsable (2025)
• Tabla de correspondencias entre el AI RMF del NIST e ISO/IEC 42001
• Comentarios de Buoy Health sobre el AI RMF del NIST (2021)