Usamos cookies para mejorar tu experiencia. Al continuar, aceptas su uso. Leer nuestra política de privacidad

    Volver a The Signal

    The Signal

    RGPD e IA conversacional: qué deben hacer las empresas

    Cómo se aplica el RGPD a chatbots y agentes de IA: alcance, roles, base jurídica, EIPD, revisión humana y pruebas de auditoría, también para empresas de EE. UU.

    30 de octubre de 2026 · 16 min de lectura

    RGPD e IA conversacional: qué deben hacer las empresas

    El RGPD se aplica a un chatbot o agente de IA conversacional siempre que trate datos personales de personas que se encuentren en la UE, y una empresa con sede en EE. UU. queda sujeta a él si ofrece bienes o servicios a esas personas u observa su comportamiento. En la práctica, esto significa que un agente de atención al cliente necesita una base jurídica, información clara, una recogida de datos limitada, plazos de conservación definidos, seguridad, una vía para ejercer los derechos de los interesados y pruebas de que se comporta según lo previsto. Esta guía expone cada obligación y muestra cómo verificarla en producción.

    Lexic AI
    lexic.ai
    Verifique los controles de cumplimiento del RGPD de su agente de IA
    Lexic evalúa de forma independiente el cumplimiento normativo, la seguridad, la fiabilidad y la experiencia del cliente de los agentes de IA conversacional, y le ayuda a identificar problemas en producción.
    Descubra Lexic Compass

    Resumen

    • El RGPD sigue a las personas, no al servidor: una empresa estadounidense que ofrece servicios a personas que se encuentran en la UE u observa su comportamiento entra en su ámbito de aplicación.
    • La transcripción de un chat suele contener datos personales. La empresa que despliega el agente suele ser el responsable del tratamiento, y el proveedor de IA es un encargado del tratamiento o, para sus propios fines, un responsable independiente.
    • Una base jurídica, un aviso de privacidad visible, la minimización de datos, una conservación limitada y el ejercicio efectivo de los derechos de los interesados son los requisitos fundamentales.
    • Los despliegues de alto riesgo o que implican decisiones automatizadas requieren una evaluación de impacto relativa a la protección de datos (EIPD) y una supervisión humana efectiva, incluida una derivación fiable a una persona.
    • El cumplimiento sobre el papel no constituye una prueba. Las pruebas independientes del comportamiento del agente en funcionamiento son las que demuestran que los controles funcionan.

    Índice

    Cuándo se aplica el RGPD a un chatbot

    El ámbito de aplicación es la primera cuestión para cualquier empresa situada fuera de Europa. Según la Comisión Europea, el RGPD se aplica a una entidad que trate datos personales en el contexto de una sucursal establecida en la UE, independientemente de dónde tenga lugar el tratamiento. También se aplica a una empresa establecida fuera de la UE que ofrezca bienes o servicios a personas que se encuentren en la UE u observe su comportamiento.

    En el caso de un agente de IA conversacional, son habituales tres situaciones:

    • Una sucursal o filial de la UE opera el agente. El RGPD se aplica al tratamiento realizado en el contexto de ese establecimiento.
    • Una empresa estadounidense atiende a clientes de la UE. Un chatbot de asistencia en un sitio que vende a personas de Estados miembros de la UE o se dirige a ellas constituye una oferta a personas que se encuentran en la UE.
    • Un agente realiza un seguimiento del comportamiento. Un asistente de ventas que elabora perfiles de visitantes en la UE, puntúa su intención o registra su comportamiento de navegación está observando su comportamiento.

    Un chatbot al que solo pueden acceder personas en EE. UU., sin oferta dirigida a la UE, queda fuera de este criterio. La mayoría de los agentes orientados al cliente en sitios web públicos no tienen un alcance tan limitado. Los equipos que entren en Europa deberían asumir que el RGPD es aplicable y planificar a partir de esa premisa.

    ¿Una conversación constituye datos personales?

    En la mayoría de los despliegues de atención al cliente, sí. Los usuarios introducen nombres, direcciones de correo electrónico, números de pedido, datos de cuentas, circunstancias sanitarias o financieras y reclamaciones. Los agentes de voz añaden grabaciones y, a menudo, características de la voz. Incluso cuando un usuario no facilita su nombre, la combinación de detalles e identificadores de sesión puede individualizar a una persona. La premisa operativa prudente es considerar que las transcripciones, los registros, los eventos de analítica y cualquier dato transmitido a un modelo son datos personales hasta que un análisis específico demuestre lo contrario.

    Esto incluye los datos que un cliente facilita por iniciativa propia. Un agente diseñado para responder a preguntas sobre envíos recibirá igualmente un diagnóstico, una dirección particular o una queja sobre un compañero de trabajo. Diseñe para lo que los usuarios vayan a escribir, no para lo que prevea el guion.

    Responsable, encargado y proveedor de IA

    El RGPD asigna responsabilidades según el rol, y este determina quién responde ante una autoridad de control y ante el cliente.

    La empresa que decide por qué y cómo trata datos personales el chatbot es el responsable del tratamiento. La documentación de los proveedores lo refleja. Para su producto de creación de sitios web, OpenAI indica que el operador del sitio es el responsable del tratamiento de los datos personales recogidos a través de él, mientras que OpenAI los trata en la medida necesaria para proporcionar y operar el sitio.

    El proveedor también puede desempeñar un segundo rol. Como señala el despacho Schjødt, un proveedor de servicios de IA puede actuar como responsable del tratamiento para sus propios fines, como entrenar sus modelos con datos facilitados por los usuarios, mientras que la empresa que utiliza el servicio sigue siendo responsable de cómo se tratan los datos personales a través de su herramienta de IA.

    Esta división tiene consecuencias prácticas:

    1. Firme un contrato de encargo del tratamiento con cada proveedor de la cadena: el proveedor del modelo, la plataforma del chatbot, la capa de telefonía o mensajería y la herramienta de analítica.
    2. Compruebe si el proveedor utiliza las conversaciones para entrenar modelos. Si lo hace, se trata de una finalidad distinta que requiere su propia justificación e información al interesado, o debe desactivarse mediante contrato y configuración.
    3. Identifique los subencargados y las transferencias. Las empresas estadounidenses que reciben datos de la UE y las empresas de la UE que los envían a proveedores estadounidenses necesitan un mecanismo de transferencia documentado.
    4. Mantenga la responsabilidad del responsable del tratamiento. Externalizar la tecnología no externaliza la obligación. Si el agente del proveedor se comporta de forma inadecuada, la empresa que lo despliega sigue respondiendo ante el cliente y la autoridad de control.

    Base jurídica e información que debe facilitarse a los usuarios

    Cada finalidad del tratamiento necesita una base jurídica. Para los chatbots, las opciones realistas son:

    • Contrato, cuando el agente gestiona una solicitud necesaria para entregar lo que el cliente ha pedido, como un cambio en la entrega.
    • Intereses legítimos, para fines como la calidad del servicio o la prevención del fraude, respaldados por una prueba de ponderación documentada.
    • Consentimiento, para usos opcionales como el seguimiento comercial, las cookies no esenciales del widget de chat o el uso de transcripciones para fines ajenos al servicio.

    Las propias orientaciones de OpenAI para operadores de sitios indican que, en algunos casos, las organizaciones deben solicitar un consentimiento mediante una acción afirmativa y publicar una política de privacidad visible que explique qué datos se recogen, cómo se utilizan y cómo pueden las personas controlarlos.

    La prueba del interés legítimo consta de tres partes: una finalidad legítima, la necesidad y una ponderación frente a los derechos de la persona. El Comité Europeo de Protección de Datos aplica exactamente esa estructura en sus directrices sobre extracción de datos de la web para IA generativa. El mismo rigor se aplica a los datos de chat: documente la finalidad, demuestre que el tratamiento es necesario y registre por qué los derechos de los clientes no prevalecen sobre ese interés.

    La ventana de chat es el punto de partida para facilitar información. Un aviso breve al inicio de la conversación debe indicar que el usuario está hablando con un agente de IA, para qué se utiliza la conversación y dónde se encuentra el aviso de privacidad completo. Este debe abarcar las categorías de datos, las finalidades, los destinatarios, los plazos de conservación, las transferencias y los derechos.

    Minimización de datos, conservación y seguridad

    La Comisión de Protección de Datos de Irlanda resume los requisitos básicos para las organizaciones que utilizan herramientas de IA: recoger solo lo necesario, no conservarlo más tiempo del preciso, aplicar una seguridad adecuada y posibilitar el ejercicio de los derechos de acceso, rectificación y supresión. Las orientaciones de OpenAI para operadores de sitios reiteran el principio de minimización: recoger únicamente los datos personales que el sitio necesita para funcionar y no conservarlos más tiempo del necesario.

    Traducido a controles para un agente conversacional:

    Principio Cómo se aplica en un chatbot
    Minimización de datos El agente solo solicita los campos necesarios para la tarea; no pide datos de identidad que no vaya a utilizar; las entradas de texto libre se filtran o enmascaran para proteger números de tarjeta y datos similares
    Limitación del plazo de conservación Un plazo de conservación definido para transcripciones y grabaciones, supresión automática y ausencia de archivos de registros indefinidos
    Seguridad Cifrado en tránsito y en reposo, acceso a transcripciones basado en roles, pruebas de inyección de instrucciones y controles sobre la información que puede recuperar el agente
    Derechos de los interesados Un proceso para localizar, exportar, rectificar y suprimir las conversaciones de una persona en la plataforma del chatbot, el CRM y cualquier copia utilizada para analítica
    Limitación de la finalidad Las transcripciones recogidas para prestar asistencia no se reutilizan para entrenamiento o marketing sin una base específica

    La misma obligación de seguridad se extiende más allá del propio chatbot. Las orientaciones de OpenAI indican que las organizaciones deben aplicar medidas de seguridad adecuadas al sitio y a cualquier otro sistema donde almacenen información recogida a través de él. Las transcripciones copiadas a un sistema de gestión de incidencias o a un almacén de datos también están incluidas.

    La disponibilidad pública no elimina la protección. El informe del grupo de trabajo sobre ChatGPT del CEPD establece que los datos personales de acceso público siguen sujetos al RGPD y que el desarrollo de IA que los utiliza sigue requiriendo una base jurídica y el cumplimiento de los requisitos de protección de datos. Para quienes despliegan estos sistemas, la cuestión es preguntar a los proveedores con qué datos se construyeron sus modelos.

    La autoridad irlandesa añade una pregunta que conviene plantear antes de cualquier desarrollo: si un enfoque sin IA podría lograr la misma finalidad con menos riesgo. A veces, un formulario estructurado sencillo es la mejor respuesta para una tarea acotada.

    EIPD, decisiones automatizadas y supervisión humana

    Muchos proyectos de chatbot necesitan una evaluación de impacto relativa a la protección de datos. La Oficina del Comisionado de Información del Reino Unido (ICO) afirma en sus orientaciones sobre el marco de auditoría de IA que el uso de IA para tratar datos personales probablemente entrañe un alto riesgo para los derechos y libertades de las personas, lo que activa la obligación legal de realizar una EIPD. La ICO es una autoridad británica y sus orientaciones no constituyen Derecho de la UE, pero aplica los mismos principios del RGPD y es una referencia práctica para el método.

    El conjunto de herramientas de gobernanza y responsabilidad proactiva de la ICO establece la secuencia: completar la EIPD antes de iniciar el tratamiento, evaluar el impacto de las decisiones automatizadas e implantar las garantías adecuadas. También indica que la EIPD debe comenzar en la fase más temprana del desarrollo e incluir una descripción sistemática del tratamiento, los flujos de datos y una evaluación de la intervención humana.

    Una EIPD práctica para un agente de atención al cliente abarca:

    1. Las finalidades y las categorías de datos a las que accederá el agente, incluidos los datos que los usuarios faciliten por iniciativa propia.
    2. El flujo de datos desde el widget de chat hasta el modelo, la plataforma, los registros y los sistemas posteriores.
    3. Los riesgos para los clientes: respuestas incorrectas o inventadas, divulgación de datos de otro cliente, resultados injustos e imposibilidad de contactar con una persona.
    4. Las medidas de mitigación: límites de alcance, filtros, reglas de derivación, pruebas y supervisión.
    5. La aprobación, la persona responsable y la fecha de revisión.

    Por qué importa la revisión humana

    Si la respuesta de un agente se utiliza para tomar una decisión que afecta significativamente a una persona, como rechazar un reembolso, cerrar una cuenta o denegar una reclamación, entran en juego las normas sobre decisiones automatizadas. La autoridad irlandesa advierte de que basarse en los resultados de la IA sin análisis crítico ni intervención humana puede introducir riesgos relacionados con las decisiones automatizadas. Una resolución del Parlamento Europeo sobre la IA en la era digital establece que los sistemas que entrañan altos riesgos para los derechos fundamentales y humanos requieren una supervisión humana plena e intervención reguladora. También señala el sesgo de automatización, por el que las personas confían excesivamente en los resultados de las máquinas.

    Para un agente de asistencia, la supervisión humana adopta una forma concreta: la vía de derivación. El agente debe reconocer cuándo debe transferir la atención, hacerlo de forma fiable y transmitir el contexto para que el cliente no tenga que repetirlo todo. Aquí es donde los despliegues fallan con mayor frecuencia. En las auditorías de Lexic, el 85% de los agentes evaluados no derivó adecuadamente las incidencias a un representante humano. Una política que promete acceso a una persona no ayuda al cliente cuyo agente sigue atrapado en un bucle.

    Cómo se complementan el Reglamento de IA y el RGPD

    El EU AI Act (Reglamento 2024/1689) establece normas armonizadas para los sistemas de IA y complementa la legislación de la UE sobre protección de datos, que sigue siendo aplicable siempre que un sistema de IA trate datos personales. Los dos regímenes no se sustituyen entre sí. El RGPD examina si los datos personales se tratan de forma lícita y leal. El Reglamento de IA añade obligaciones vinculadas al propio sistema de IA, como la transparencia, la gestión de riesgos y la supervisión, con requisitos que dependen de la categoría de riesgo del sistema.

    Comparación de las obligaciones del RGPD y del Reglamento de IA

    Para las empresas estadounidenses que entran en Europa, la interpretación práctica es crear un único conjunto de controles. Un único registro de agentes de IA, un proceso de EIPD que también recoja las cuestiones de riesgo del Reglamento de IA y una única trazabilidad de las evidencias sirven para ambos regímenes. Consulte el texto oficial para conocer las obligaciones y fechas de aplicación que correspondan a su categoría de sistema, ya que los calendarios de aplicación gradual varían según la disposición.

    Supervisión y auditoría de agentes en producción

    Una EIPD describe el comportamiento previsto. Una auditoría muestra el comportamiento efectivo. El conjunto de herramientas de gobernanza de la ICO recomienda programas de auditoría basados en el riesgo que evalúen periódicamente el cumplimiento de los sistemas de IA y cuyos informes se compartan con la alta dirección.

    En el caso de los agentes conversacionales, una auditoría útil pone a prueba al agente tal como lo encuentra el cliente. Preguntas que deben responderse con evidencias:

    • ¿El agente informa de que es una IA y lo hace de forma sistemática?
    • ¿Deriva a una persona cuando el cliente lo solicita o cuando la situación lo requiere?
    • ¿Se le puede persuadir para que revele datos personales, instrucciones internas o información de otro cliente?
    • ¿Solicita más datos personales de los que requiere la tarea?
    • ¿Ofrece afirmaciones incorrectas o inventadas sobre derechos, reembolsos o políticas?
    • ¿Se comporta de la misma manera tras una actualización del modelo, un cambio de instrucciones o una nueva versión del proveedor?

    Los paneles de los proveedores suelen mostrar lo que el proveedor decide medir. Las pruebas independientes los complementan porque comprueban el resultado desde fuera, abarcan distintos proveedores y generan registros que resisten el escrutinio en una controversia con el proveedor o una autoridad de control.

    Perspectiva: la garantía debe ser independiente

    Auditamos agentes de IA conversacional de cualquier proveedor interactuando con ellos como lo harían usuarios reales. En experiencia del cliente, seguridad, fiabilidad técnica y cumplimiento normativo, se repite el mismo patrón: el diseño documentado y el comportamiento en funcionamiento divergen. La tasa de fallos de derivación del 85% en nuestras auditorías es el ejemplo más claro. Las organizaciones tenían la política, el proveedor tenía la funcionalidad y, aun así, el cliente no podía contactar con una persona.

    Por tanto, el cumplimiento del RGPD en la IA conversacional depende de tres hábitos. Primero, tratar cada agente como un sistema sujeto a gobernanza, con una persona responsable, una EIPD y un ciclo de revisión. Segundo, poner a prueba el comportamiento de forma continua, porque las instrucciones, los modelos y las bases de conocimiento cambian. Tercero, conservar evidencias que no puedan cuestionarse después. Por eso aplicamos funciones hash criptográficas de terceros a las evidencias de auditoría, para que su integridad pueda verificarse y trazarse.

    El agente es un producto del proveedor, pero la relación con el cliente y la responsabilidad legal corresponden a la empresa que lo despliega. Las evidencias independientes son el medio por el que esa empresa mantiene el control a medida que amplía sus despliegues.

    — Sergio Llorens

    Lista de comprobación práctica antes del lanzamiento

    Utilice esta lista antes de poner en funcionamiento un agente en un flujo dirigido a la UE y repítala después de cualquier cambio importante.

    1. Ámbito: registre por qué se aplica el RGPD y a qué mercados atiende el agente.
    2. Roles: documente las relaciones entre responsables y encargados del tratamiento y firme los contratos de encargo del tratamiento.
    3. Uso para entrenamiento: confirme por escrito si el proveedor utiliza sus conversaciones para mejorar sus modelos.
    4. Base jurídica: asigne una base a cada finalidad y conserve la prueba de ponderación de los intereses legítimos.
    5. Aviso: muestre dentro del chat un aviso de uso de IA y un enlace de privacidad.
    6. Minimización: elimine todos los campos de datos que la tarea no necesite.
    7. Conservación: establezca plazos de supresión para transcripciones, grabaciones y copias.
    8. Derechos: pruebe de principio a fin una solicitud de acceso y una de supresión.
    9. EIPD: complétela antes del lanzamiento y designe a una persona responsable.
    10. Derivación: pruebe la transferencia a una persona con casos límite realistas.
    11. Seguridad: ejecute pruebas adversarias de filtración de datos e inyección de instrucciones.
    12. Evidencias: programe auditorías independientes recurrentes y conserve los informes.

    Pruebas y supervisión con Lexic

    Lexic Compass es nuestra plataforma de auditoría de agentes de IA. Evalúa agentes conversacionales de cualquier proveedor mediante interacciones reales e informa sobre la experiencia del cliente, la seguridad, la fiabilidad técnica y el cumplimiento normativo, incluidos problemas que la supervisión tradicional puede pasar por alto. Las modalidades de servicio van desde Flash Preview y Audit Sprint hasta Enterprise Continuous Trust, descritas en la página de servicios de auditoría. Para analizar cada conversación con clientes en llamadas, chats, correos electrónicos e incidencias, Lexic Pulse transforma las interacciones en información sobre sentimiento, abandono y oportunidades.

    Lexic AI

    Para conocer la situación de sus agentes antes de que pregunte una autoridad de control o un cliente, empiece en lexic.ai.

    Preguntas frecuentes

    ¿Debe una empresa estadounidense cumplir el RGPD en su chatbot?

    Sí, si el chatbot forma parte de una oferta de bienes o servicios a personas que se encuentran en la UE u observa su comportamiento. La Comisión Europea describe estos criterios para las empresas establecidas fuera de la UE. Un chatbot de un servicio exclusivo para EE. UU., sin oferta dirigida a la UE, queda fuera de ese criterio.

    ¿Las conversaciones de un chatbot se consideran datos personales?

    Normalmente sí, porque los usuarios comparten nombres, datos de contacto, información de cuentas y circunstancias personales. Los registros y los identificadores de sesión también pueden identificar a una persona. Trate las transcripciones como datos personales salvo que una evaluación documentada demuestre lo contrario.

    Las bases habituales son el contrato, los intereses legítimos y el consentimiento, según la finalidad. La prestación del servicio suele encajar en el contrato o los intereses legítimos, mientras que los usos opcionales, como el marketing o la analítica adicional, suelen necesitar un consentimiento mediante una acción afirmativa. Cada finalidad necesita su propia base y un aviso de privacidad visible.

    ¿Se requiere una EIPD para un chatbot de IA?

    A menudo. Las orientaciones de la ICO indican que utilizar IA para tratar datos personales probablemente entrañe un alto riesgo, lo que exige una EIPD. Complétela antes del lanzamiento y revísela cuando cambien el agente, el modelo o los datos.

    ¿Cómo afecta el Reglamento de IA a las obligaciones del RGPD?

    El Reglamento de IA complementa el RGPD y no lo sustituye. El RGPD sigue aplicándose siempre que un sistema de IA trate datos personales, y el Reglamento de IA añade obligaciones que dependen de la categoría de riesgo del sistema.

    Fuentes

    ¿Quieres un veredicto independiente sobre tu agente de IA?

    Volver a The Signal