RGPD e IA conversacional: qué deben hacer las empresas

El RGPD se aplica a un chatbot o agente de IA conversacional siempre que trate datos personales de personas que se encuentren en la UE, y una empresa con sede en Estados Unidos queda sujeta a él si ofrece bienes o servicios a esas personas o supervisa su comportamiento. En la práctica, esto significa que un agente de atención al cliente necesita una base jurídica, información clara, una recogida de datos limitada, plazos de conservación definidos, seguridad, un cauce para ejercer los derechos de los interesados y pruebas de que se comporta según lo previsto. Esta guía expone cada obligación y muestra cómo verificarla en producción.

En resumen

• El RGPD sigue a las personas, no al servidor: una empresa estadounidense que ofrece servicios a personas que se encuentran en la UE o supervisa su comportamiento entra en su ámbito de aplicación.
• La transcripción de un chat suele contener datos personales. La empresa que despliega el agente suele ser el responsable del tratamiento, y el proveedor de IA es un encargado del tratamiento o, para sus propios fines, un responsable independiente.
• Una base jurídica, un aviso de privacidad visible, la minimización de datos, una conservación limitada y el ejercicio efectivo de los derechos de los interesados son los requisitos fundamentales.
• Los despliegues de alto riesgo o que conllevan decisiones automatizadas requieren una evaluación de impacto relativa a la protección de datos (EIPD) y una supervisión humana efectiva, incluida una transferencia fiable a una persona.
• El cumplimiento sobre el papel no constituye una prueba. Las pruebas independientes del comportamiento del agente en funcionamiento son las que demuestran que los controles funcionan.

Índice

• Cuándo se aplica el RGPD a un chatbot
• ¿Una conversación contiene datos personales?
• El responsable, el encargado y el proveedor de IA
• La base jurídica y la información que debe facilitarse a los usuarios
• Minimización de datos, conservación y seguridad
• EIPD, decisiones automatizadas y supervisión humana
• Cómo se complementan el Reglamento de IA y el RGPD
• Supervisión y auditoría de agentes en producción
• Perspectiva: la evaluación de garantías debe ser independiente
• Una lista de comprobación práctica antes del lanzamiento
• Pruebas y supervisión con Lexic
• Preguntas frecuentes
• Fuentes

Cuándo se aplica el RGPD a un chatbot

El ámbito de aplicación es la primera cuestión que debe abordar cualquier empresa de fuera de Europa. Según la Comisión Europea, el RGPD se aplica a una entidad que trata datos personales en el contexto de una sucursal establecida en la UE, con independencia de dónde tenga lugar el tratamiento. También se aplica a una empresa establecida fuera de la UE que ofrece bienes o servicios a personas que se encuentran en la UE o supervisa su comportamiento.

En el caso de un agente de IA conversacional, son habituales tres situaciones:

• Una sucursal o filial de la UE opera el agente. El RGPD se aplica al tratamiento realizado en el contexto de ese establecimiento.
• Una empresa estadounidense atiende a clientes de la UE. Un chatbot de asistencia en un sitio web que vende a personas de los Estados miembros de la UE o se dirige a ellas constituye una oferta a personas que se encuentran en la UE.
• Un agente rastrea el comportamiento. Un asistente de ventas que elabora perfiles de visitantes en la UE, puntúa su intención de compra o registra su comportamiento de navegación está supervisando su comportamiento.

Un chatbot al que solo pueden acceder personas que se encuentran en Estados Unidos, sin ninguna oferta dirigida a la UE, queda fuera de este supuesto. La mayoría de los agentes de atención al cliente en sitios web públicos no tienen un alcance tan limitado. Los equipos que entran en Europa deberían asumir que el RGPD les resulta aplicable y planificar a partir de esa premisa.

¿Una conversación contiene datos personales?

En la mayoría de los despliegues de atención al cliente, sí. Los usuarios introducen nombres, direcciones de correo electrónico, números de pedido, datos de cuentas, circunstancias de salud o económicas y reclamaciones. Los agentes de voz añaden grabaciones y, a menudo, características de la voz. Incluso cuando un usuario no facilita su nombre, la combinación de detalles e identificadores de sesión puede permitir identificarlo. La premisa operativa prudente es que las transcripciones, los registros, los eventos analíticos y cualquier dato transmitido a un modelo son datos personales hasta que un análisis específico demuestre lo contrario.

Esto incluye los datos que un cliente facilita espontáneamente. Un agente diseñado para responder a preguntas sobre envíos también recibirá diagnósticos, domicilios o quejas sobre compañeros de trabajo. Diseñe teniendo en cuenta lo que escribirán los usuarios, no lo que prevé el guion.

El responsable, el encargado y el proveedor de IA

El RGPD asigna responsabilidades en función del papel de cada parte, y ese papel determina quién responde ante una autoridad de control y un cliente.

La empresa que decide por qué y cómo el chatbot trata datos personales es el responsable del tratamiento. La documentación de los proveedores lo refleja. Para su producto de creación de sitios web, OpenAI indica que el operador del sitio es el responsable del tratamiento de los datos personales recogidos a través de él, mientras que OpenAI los trata en la medida necesaria para proporcionar y operar el sitio.

El proveedor también puede desempeñar un segundo papel. Como señala el despacho Schjødt, un proveedor de servicios de IA puede actuar como responsable del tratamiento para sus propios fines, como entrenar sus modelos con datos facilitados por los usuarios, mientras que la empresa que utiliza el servicio sigue siendo responsable de cómo se tratan los datos personales a través de su herramienta de IA.

Esta división tiene consecuencias prácticas:

1. Firme un contrato de encargo del tratamiento con cada proveedor de la cadena: el proveedor del modelo, la plataforma del chatbot, la capa de telefonía o mensajería y la herramienta de analítica.
2. Compruebe si el proveedor utiliza las conversaciones para entrenar modelos. Si lo hace, se trata de una finalidad distinta que necesita su propia justificación e información al interesado, o debe desactivarse mediante el contrato y la configuración.
3. Identifique los subencargados y las transferencias. Las empresas estadounidenses que reciben datos de la UE y las empresas de la UE que los envían a proveedores estadounidenses necesitan un mecanismo de transferencia documentado.
4. Mantenga la responsabilidad del responsable del tratamiento. Externalizar la tecnología no supone externalizar la obligación. Si el agente del proveedor se comporta de forma inadecuada, la empresa que lo despliega sigue respondiendo ante el cliente y la autoridad de control.

La base jurídica y la información que debe facilitarse a los usuarios

Cada finalidad del tratamiento necesita una base jurídica. Para los chatbots, las opciones más habituales son:

• Contrato, cuando el agente gestiona una solicitud necesaria para prestar lo que el cliente ha contratado, como un cambio en la entrega.
• Intereses legítimos, para fines como la calidad del servicio o la prevención del fraude, respaldados por un juicio de ponderación documentado.
• Consentimiento, para usos opcionales como comunicaciones comerciales posteriores, cookies no esenciales en el widget de chat o el uso de transcripciones para fines ajenos al servicio.

Las propias orientaciones de OpenAI para operadores de sitios web indican que, en algunos casos, las organizaciones deben solicitar el consentimiento mediante una acción afirmativa y publicar una política de privacidad visible que explique qué datos se recogen, cómo se utilizan y cómo pueden las personas controlarlos.

El examen de los intereses legítimos consta de tres partes: una finalidad legítima, la necesidad del tratamiento y una ponderación frente a los derechos de la persona. El Comité Europeo de Protección de Datos aplica exactamente esa estructura en sus directrices sobre extracción de datos de la web para IA generativa. El mismo rigor se aplica a los datos de los chats: documente la finalidad, demuestre que el tratamiento es necesario y registre por qué los derechos de los clientes no prevalecen sobre ese interés.

La ventana del chat es el punto de partida para informar al usuario. Un breve aviso al inicio de la conversación debe indicar que el usuario está hablando con un agente de IA, para qué se utiliza la conversación y dónde se encuentra el aviso de privacidad completo. Este debe incluir las categorías de datos, las finalidades, los destinatarios, los plazos de conservación, las transferencias y los derechos.

Minimización de datos, conservación y seguridad

La Comisión de Protección de Datos de Irlanda resume los requisitos básicos para las organizaciones que utilizan herramientas de IA: recoger solo lo necesario, no conservarlo más tiempo del preciso, aplicar una seguridad adecuada y permitir el ejercicio de los derechos de acceso, rectificación y supresión. Las orientaciones de OpenAI para operadores de sitios web reiteran el principio de minimización: recoger únicamente los datos personales que el sitio necesita para funcionar y no conservarlos más tiempo del necesario.

Traducido en controles para un agente conversacional:

La misma obligación de seguridad va más allá del propio chatbot. Las orientaciones de OpenAI indican que las organizaciones deben aplicar medidas de seguridad adecuadas al sitio y a cualquier otro sistema en el que almacenen información recogida a través de él. Las transcripciones copiadas a un sistema de gestión de incidencias o a un almacén de datos también están incluidas.

La disponibilidad pública no elimina la protección. El informe del grupo de trabajo sobre ChatGPT del CEPD establece que los datos personales accesibles públicamente siguen sujetos al RGPD y que el desarrollo de IA que los utiliza sigue requiriendo una base jurídica y el cumplimiento de los requisitos de protección de datos. Para quienes despliegan estos sistemas, lo importante es preguntar a los proveedores con qué datos se han desarrollado sus modelos.

La autoridad irlandesa añade una pregunta que conviene plantearse antes de cualquier desarrollo: si un enfoque sin IA podría alcanzar la misma finalidad con menos riesgo. A veces, un formulario estructurado sencillo es la mejor respuesta para una tarea acotada.

EIPD, decisiones automatizadas y supervisión humana

Muchos proyectos de chatbots necesitan una evaluación de impacto relativa a la protección de datos. La Oficina del Comisionado de Información del Reino Unido (ICO) indica en sus orientaciones sobre el marco de auditoría de IA que es probable que el uso de IA para tratar datos personales entrañe un alto riesgo para los derechos y libertades de las personas, lo que activa la obligación legal de realizar una EIPD. La ICO es una autoridad británica y sus orientaciones no constituyen legislación de la UE, pero aplica los mismos principios del RGPD y es una referencia práctica en cuanto al método.

Las herramientas de gobernanza y responsabilidad proactiva de la ICO establecen la secuencia: completar la EIPD antes de iniciar el tratamiento, evaluar el impacto de las decisiones automatizadas e implantar las garantías adecuadas. También indican que la EIPD debe comenzar en la fase más temprana del desarrollo e incluir una descripción sistemática del tratamiento, los flujos de datos y una evaluación de la intervención humana.

Una EIPD práctica para un agente de atención al cliente abarca:

1. Las finalidades y las categorías de datos a los que tendrá acceso el agente, incluidos los que los usuarios faciliten espontáneamente.
2. El flujo de datos desde el widget de chat hasta el modelo, la plataforma, los registros y los sistemas posteriores.
3. Los riesgos para los clientes: respuestas erróneas o inventadas, divulgación de datos de otro cliente, resultados injustos e imposibilidad de contactar con una persona.
4. Las medidas de mitigación: límites de alcance, filtros, reglas de derivación, pruebas y supervisión.
5. La aprobación, la persona responsable y la fecha de revisión.

Por qué importa la revisión humana

Si el resultado de un agente contribuye a una decisión que afecta significativamente a una persona, como rechazar un reembolso, cerrar una cuenta o denegar una reclamación, entran en juego las normas sobre decisiones automatizadas. La autoridad irlandesa advierte de que basarse en los resultados de la IA sin análisis crítico ni intervención humana puede introducir riesgos asociados a las decisiones automatizadas. Una resolución del Parlamento Europeo sobre la IA en la era digital establece que los sistemas que plantean riesgos elevados para los derechos fundamentales y humanos requieren una supervisión humana plena y una intervención reguladora. También señala el sesgo de automatización, por el que las personas confían excesivamente en los resultados de las máquinas.

Para un agente de asistencia, la supervisión humana adopta una forma concreta: el cauce de derivación. El agente debe reconocer cuándo transferir la atención, hacerlo de forma fiable y transmitir el contexto para que el cliente no tenga que repetirlo todo. Este es el punto en el que los despliegues fallan con mayor frecuencia. En las auditorías de Lexic, el 85% de los agentes evaluados no derivó adecuadamente los problemas a un representante humano. Una política que promete un cauce de atención humana no ayuda a un cliente cuyo agente sigue atrapado en un bucle.

Cómo se complementan el Reglamento de IA y el RGPD

El EU AI Act (Reglamento 2024/1689) establece normas armonizadas para los sistemas de IA y complementa la legislación de protección de datos de la UE, que sigue siendo aplicable siempre que un sistema de IA trate datos personales. Ninguno de los dos regímenes sustituye al otro. El RGPD examina si los datos personales se tratan de forma lícita y leal. El Reglamento de IA añade obligaciones vinculadas al propio sistema de IA, como la transparencia, la gestión de riesgos y la supervisión, con requisitos que dependen de la categoría de riesgo del sistema.

Para las empresas estadounidenses que entran en Europa, la interpretación práctica consiste en crear un único conjunto de controles. Un registro único de agentes de IA, un proceso de EIPD que también recoja las cuestiones de riesgo del Reglamento de IA y un único rastro de evidencias sirven para ambos regímenes. Consulte el texto oficial para conocer las obligaciones y las fechas de aplicación correspondientes a su categoría de sistema, ya que los calendarios de aplicación gradual varían según la disposición.

Supervisión y auditoría de agentes en producción

Una EIPD describe el comportamiento previsto. Una auditoría muestra el comportamiento efectivo. Las herramientas de gobernanza de la ICO recomiendan programas de auditoría basados en el riesgo que evalúen periódicamente el cumplimiento de los sistemas de IA y cuyos informes se compartan con la alta dirección.

Para los agentes conversacionales, una auditoría útil prueba el agente tal como lo encuentra un cliente. Estas son las preguntas que deben responderse con pruebas:

• ¿El agente informa de que es una IA y lo hace de forma sistemática?
• ¿Deriva la atención a una persona cuando el cliente lo solicita o cuando la situación lo requiere?
• ¿Se le puede inducir a revelar datos personales, instrucciones internas o información de otro cliente?
• ¿Solicita más datos personales de los necesarios para la tarea?
• ¿Ofrece afirmaciones erróneas o inventadas sobre derechos, reembolsos o políticas?
• ¿Se comporta del mismo modo después de una actualización del modelo, un cambio de instrucciones o una nueva versión del proveedor?

Los paneles de los proveedores suelen informar sobre lo que el proveedor decide medir. Las pruebas independientes los complementan porque comprueban el resultado desde fuera, abarcan distintos proveedores y generan registros que pueden sostenerse en una disputa con el proveedor o ante una autoridad de control.

Perspectiva: la evaluación de garantías debe ser independiente

Auditamos agentes de IA conversacional de cualquier proveedor interactuando con ellos como lo harían usuarios reales. En experiencia del cliente, seguridad, fiabilidad técnica y cumplimiento normativo se repite el mismo patrón: el diseño documentado y el comportamiento en funcionamiento divergen. La tasa de fallos de derivación del 85% observada en nuestras auditorías es el ejemplo más claro. Las organizaciones tenían la política, el proveedor tenía la funcionalidad y, aun así, el cliente no conseguía contactar con una persona.

Por tanto, el cumplimiento del RGPD en la IA conversacional depende de tres hábitos. Primero, tratar cada agente como un sistema sujeto a gobernanza, con una persona responsable, una EIPD y un ciclo de revisión. Segundo, probar el comportamiento de forma continua, porque las instrucciones, los modelos y las bases de conocimiento cambian. Tercero, conservar evidencias que no puedan cuestionarse posteriormente. Por eso aplicamos funciones hash criptográficas de terceros a las evidencias de auditoría, para que su integridad pueda verificarse y sea trazable.

El agente es un producto del proveedor, pero la relación con el cliente y la responsabilidad legal corresponden a la empresa que lo despliega. Las evidencias independientes permiten que esa empresa mantenga el control a medida que crecen los despliegues.

— Sergio Llorens

Una lista de comprobación práctica antes del lanzamiento

Utilice esta lista antes de poner en funcionamiento un agente en un flujo dirigido a personas de la UE y, de nuevo, después de cualquier cambio importante.

1. Ámbito de aplicación: registre por qué se aplica el RGPD y a qué mercados presta servicio el agente.
2. Roles: documente las relaciones entre responsables y encargados del tratamiento y firme los contratos de encargo del tratamiento.
3. Uso para entrenamiento: confirme por escrito si el proveedor utiliza sus conversaciones para mejorar sus modelos.
4. Base jurídica: asigne una base a cada finalidad y conserve el juicio de ponderación de los intereses legítimos.
5. Aviso: muestre dentro del chat una indicación de que se trata de una IA y un enlace a la información de privacidad.
6. Minimización: elimine todos los campos de datos que la tarea no necesite.
7. Conservación: establezca plazos de eliminación para transcripciones, grabaciones y copias.
8. Derechos: pruebe de principio a fin una solicitud de acceso y una solicitud de supresión.
9. EIPD: complétela antes del lanzamiento y designe a una persona responsable.
10. Derivación: pruebe la transferencia a una persona con casos límite realistas.
11. Seguridad: ejecute pruebas adversarias de filtración de datos e inyección de instrucciones.
12. Evidencias: programe auditorías independientes periódicas y conserve los informes.

Pruebas y supervisión con Lexic

Lexic Compass es nuestra plataforma de auditoría de agentes de IA. Evalúa agentes conversacionales de cualquier proveedor mediante interacciones en condiciones reales y presenta informes sobre experiencia del cliente, seguridad, fiabilidad técnica y cumplimiento normativo, incluidos problemas que la supervisión tradicional puede pasar por alto. Las modalidades de servicio van desde Flash Preview y Audit Sprint hasta Enterprise Continuous Trust, descritas en la página de servicios de auditoría. Para analizar cada conversación con el cliente a través de llamadas, chats, correos electrónicos e incidencias, Lexic Pulse transforma las interacciones en información sobre sentimiento, abandono de clientes y oportunidades.

Para conocer la situación de sus agentes antes de que lo pregunte una autoridad de control o un cliente, empiece en lexic.ai.

Preguntas frecuentes

¿Debe una empresa estadounidense cumplir el RGPD en relación con su chatbot?

Sí, si el chatbot forma parte de una oferta de bienes o servicios a personas que se encuentran en la UE o supervisa su comportamiento. La Comisión Europea describe estos criterios de aplicación para las empresas establecidas fuera de la UE. Un chatbot de un servicio exclusivo para Estados Unidos, sin oferta dirigida a la UE, queda fuera de ese supuesto.

¿Las conversaciones con un chatbot se consideran datos personales?

Normalmente sí, porque los usuarios comparten nombres, datos de contacto, información de cuentas y circunstancias personales. Los registros y los identificadores de sesión también pueden identificar a una persona. Trate las transcripciones como datos personales salvo que una evaluación documentada demuestre lo contrario.

¿En qué base jurídica puede apoyarse un chatbot?

Las bases habituales son el contrato, los intereses legítimos y el consentimiento, según la finalidad. La prestación del servicio suele encajar en el contrato o los intereses legítimos, mientras que los usos opcionales, como el marketing o la analítica adicional, suelen requerir consentimiento mediante una acción afirmativa. Cada finalidad necesita su propia base jurídica y un aviso de privacidad visible.

¿Es obligatoria una EIPD para un chatbot de IA?

A menudo, sí. Las orientaciones de la ICO indican que es probable que el uso de IA para tratar datos personales entrañe un alto riesgo, lo que obliga a realizar una EIPD. Complétela antes del lanzamiento y revísela cuando cambien el agente, el modelo o los datos.

¿Cómo afecta el Reglamento de IA a las obligaciones del RGPD?

El Reglamento de IA complementa el RGPD y no lo sustituye. El RGPD sigue siendo aplicable siempre que un sistema de IA trate datos personales, y el Reglamento de IA añade obligaciones que dependen de la categoría de riesgo del sistema.

Fuentes

• Aplicación del RGPD, Comisión Europea
• Cumplimiento de las leyes de protección de datos en ChatGPT Sites, Centro de ayuda de OpenAI
• Una breve mirada a la privacidad y la IA generativa, Schjødt
• IA, grandes modelos de lenguaje y protección de datos, Comisión de Protección de Datos de Irlanda
• Directrices 03/2026 sobre extracción de datos de la web, Comité Europeo de Protección de Datos
• Informe del grupo de trabajo sobre ChatGPT, Comité Europeo de Protección de Datos
• Gobernanza y responsabilidad proactiva en IA, ICO
• Orientaciones sobre el marco de auditoría de IA, ICO
• Resolución del Parlamento Europeo sobre la inteligencia artificial en la era digital, EUR-Lex
• Reglamento (UE) 2024/1689, EUR-Lex