La detección de fugas de información de identificación personal (PII) en las interacciones con clientes mediante IA consiste en localizar datos personales allí donde un agente los recibe, almacena, repite o transmite, no solo en la respuesta final que ve el cliente. Analizar las transcripciones en busca de números de tarjeta y correos electrónicos es un primer paso. No permite saber si un agente expone los datos de un cliente a otro, mantiene una divulgación al cambiar de tema o escribe identificadores en registros y llamadas a herramientas. El enfoque más fiable combina la detección por capas sobre los datos propios con pruebas independientes del agente tal como lo experimentaría un usuario real. Ese segundo paso es el que realiza Lexic Compass, nuestra plataforma de auditoría de agentes de IA, para agentes de cualquier proveedor.
Resumen
- La PII en las conversaciones no está estructurada y a menudo se facilita sin que se solicite. Puede aparecer en instrucciones, contexto recuperado, llamadas a herramientas, salidas del modelo, registros, representaciones vectoriales y conjuntos de entrenamiento, por lo que analizar únicamente las salidas resulta insuficiente.
- La combinación de reglas de patrones y reconocimiento de entidades nombradas (NER) supera a las reglas por sí solas en pruebas publicadas: una exhaustividad de 0.96 frente a 0.65.
- La supresión, la seudonimización y la anonimización no son intercambiables. Las transcripciones seudonimizadas siguen siendo datos personales conforme al RGPD.
- La detección en los registros propios muestra qué se almacenó. Las auditorías independientes muestran qué hace realmente el agente cuando un usuario lo pone a prueba.
- Las empresas estadounidenses que atienden a clientes de la UE están sujetas a obligaciones de transparencia del Reglamento de IA desde el 2 de agosto de 2026, además del RGPD y de leyes estatales como la CCPA.
Índice
- Qué se considera una fuga de PII en una conversación con IA
- Dónde entra, persiste y reaparece la PII
- Por qué no basta con comprobar solo las salidas o las transcripciones
- Cómo funciona la detección: reglas, NER y contexto
- Detección de PII en registros de chat y transcripciones de llamadas
- Supresión, seudonimización y anonimización
- Poner a prueba el propio agente, no solo los datos
- Qué hacer al detectar una fuga
- Normativa aplicable en materia de privacidad e IA
- Cómo contribuye Lexic a este trabajo
- Preguntas frecuentes
- Fuentes
Qué se considera una fuga de PII en una conversación con IA
El Gobierno de Estados Unidos define la información de identificación personal (PII) como aquella que permite distinguir o rastrear la identidad de una persona, por sí sola o combinada con otra información vinculable. La guía de privacidad de la GPO, que cita el memorando 17-12 de la OMB, también distingue entre un incidente de privacidad (una posible vulneración) y una brecha de privacidad (una divulgación confirmada a una persona no autorizada). Añade que introducir PII en las bases de datos de herramientas de IA puede ampliar la exposición y dificultar la actualización o eliminación de los datos.
En atención al cliente, las fugas de PII suelen adoptar una de estas tres formas, recogidas en el riesgo de divulgación de información sensible de OWASP:
- Un usuario legítimo ve los datos de otro usuario sin que exista ninguna interacción maliciosa.
- Un usuario elude los filtros de entrada y consigue que el modelo revele PII de otras personas.
- La PII entra en el modelo a través de los datos de entrenamiento, lo que aumenta el riesgo de los dos casos anteriores.
Hay tres categorías prácticas de datos relevantes para los equipos de atención al cliente:
- Identificadores directos: nombres, direcciones de correo electrónico, números de teléfono, números de cuenta y documentos de identidad oficiales.
- Cuasiidentificadores: código postal, fecha de nacimiento y género. Cada uno parece inocuo, pero juntos pueden permitir identificar a una persona.
- Combinaciones sensibles: un número de tarjeta con un código de seguridad, o un identificador junto a un dato de salud.
Una conversación también difiere de un campo de base de datos. Un cliente dice su fecha de nacimiento en mitad de una frase, lee en voz alta un número de tarjeta o menciona un diagnóstico al preguntar por un reembolso. La detección debe poder abordar todas estas situaciones.
Dónde entra, persiste y reaparece la PII
La respuesta es el lugar más visible donde aparece la PII, pero rara vez es el único. El catálogo de técnicas de ataque a la IA con enfoque de confianza cero de Microsoft indica que la exposición de datos en sistemas de IA en uso procede cada vez más de la memoria, el contexto y los artefactos de recuperación, como resúmenes de trabajo, fragmentos recuperados, salidas de herramientas, entradas de almacenes vectoriales, espacios de trabajo temporales de los agentes, registros y datos en caché, en lugar de datos de entrenamiento memorizados. Recomienda realizar análisis de clasificación de contenido en instrucciones, salidas, escrituras en memoria, contexto recuperado, ingesta en almacenes vectoriales, registros y salidas de herramientas.
Inventario práctico de superficies que deben comprobarse:
| Superficie | Qué puede fallar |
|---|---|
| Entrada del usuario | Los clientes facilitan voluntariamente más información de la necesaria para la tarea |
| Instrucción al modelo | Se envían el mensaje del cliente y campos de su cuenta a un proveedor de modelos |
| Contexto recuperado | Se incorporan registros de conocimiento o del CRM que pertenecen a otra persona |
| Llamadas y respuestas de herramientas | Se transmiten nombres, fechas de nacimiento o referencias de cuenta como argumentos de funciones; las API devuelven más información de la prevista |
| Salida del modelo | Se repiten o parafrasean identificadores y se produce contaminación entre sesiones |
| Registros y trazas | Se copian conversaciones sin procesar en herramientas de depuración y observabilidad |
| Grabaciones y transcripciones | Se almacenan números de tarjeta pronunciados o datos de salud en sistemas persistentes |
| Representaciones vectoriales y conjuntos de entrenamiento | Los datos personales resultan difíciles de eliminar una vez incorporados |
La documentación de los proveedores confirma este patrón. La documentación de agentes de IA de Five9 indica que las grabaciones de llamadas no suprimen la PII: si quien llama la pronuncia, queda en la grabación. También señala que las transcripciones y los registros de conversaciones pueden contener PII, y que esta debe eliminarse antes de compartir cargas de datos para depuración.
Las conexiones con herramientas añaden otra vía. Los agentes que llaman a herramientas externas mediante protocolos como MCP crean nuevas rutas por las que pueden circular los datos, como se explica en esta introducción a la seguridad de MCP para agentes de IA.
Por qué no basta con comprobar solo las salidas o las transcripciones
Dos hallazgos explican por qué no basta con analizar lo que vio el cliente.
En primer lugar, las fugas persisten a lo largo de una conversación. El estudio PrivDrift puso a prueba tres grandes modelos de lenguaje con ventanas de contexto ampliadas. Después de que la conversación derivara hacia temas no relacionados, la fuga híbrida a nivel de diálogo se mantuvo entre el 38.7% y el 54.6%, y una mayor desviación temática no la redujo de forma consistente. Los autores sostienen que la privacidad en el contexto activo debe tratarse como un modo de fallo persistente, no solo como memorización o como una evasión inmediata de las salvaguardas.
En segundo lugar, las sesiones pueden mezclarse. Un estudio de Springer Discover Artificial Intelligence sobre los riesgos sistémicos de privacidad de los agentes conversacionales señala que estos pueden revelar información accidentalmente a través del contexto, incluso en despliegues multicliente donde los datos de sesión de un usuario se mezclan con los de otro sin que ninguno lo sepa.
Un agente también puede transmitir un nombre y una fecha de nacimiento a una llamada a función que active una solicitud a una API antes de redactar respuesta alguna. Quien revise únicamente la respuesta nunca lo verá. Por eso la detección debe abarcar todo el flujo de procesamiento y es necesario poner a prueba el comportamiento del agente en funcionamiento, no solo el texto almacenado.
Cómo funciona la detección: reglas, NER y contexto
La mayoría de los sistemas de detección en producción combinan tres técnicas.
- Reglas de patrones (expresiones regulares y sumas de comprobación): fiables para valores estructurados como números de tarjeta, números de la Seguridad Social estadounidense y correos electrónicos. No detectan lo que no se ajusta al patrón.
- Reconocimiento de entidades nombradas (NER): un modelo que etiqueta nombres, lugares, organizaciones y fechas en texto libre. Detecta identificadores que no tienen un formato fijo.
- Clasificadores basados en LLM: ofrecen la mayor exactitud, con el mayor coste y latencia. Enviar texto sin depurar a la API de un modelo de terceros genera un problema de privacidad por sí mismo.
La diferencia entre las dos primeras técnicas es medible. Un marco publicado para la supresión automatizada de PII informa de que un servicio híbrido de expresiones regulares y NER alcanzó una precisión de 0.92, una exhaustividad de 0.96 y un F1 de 0.94 en el conjunto de datos CRAPII. Un sistema de referencia basado únicamente en expresiones regulares alcanzó una exhaustividad de 0.65, lo que, según los autores, supone un riesgo de fuga de hasta el 35% de la PII. La exhaustividad es la cifra que debe vigilarse: mide qué proporción de la PII realmente presente encuentra el detector.
El contexto determina qué cuenta como PII
La misma cadena de texto puede ser PII en una frase e inocua en otra. El banco de pruebas PII-TRACE señala que un nombre referido al usuario es PII, mientras que uno referido a una figura pública o a un lugar no lo es, y que deben localizarse todas las apariciones de un identificador recurrente. Los detectores de referencia tuvieron dificultades con diálogos largos, multilingües y que combinaban distintos medios.
Divulgaciones que no son PII clásica
El estudio de COLM 2024 No confíes en ningún bot analizó conversaciones reales entre personas y chatbots. Detectó PII en contextos inesperados: el 48% de las veces en tareas de traducción y el 16% en edición de código. También constató que la detección de PII por sí sola no identifica temas sensibles como preferencias sexuales detalladas o hábitos de consumo de drogas. Para un equipo de atención al cliente, esto significa que las reglas de detección deben combinarse con una revisión temática de la salud, las dificultades económicas y otras revelaciones similares. La investigación de Fraud Signals sobre las carencias de los detectores de identidad muestra la misma limitación desde otro ángulo: los detectores que localizan nombres y datos de cuentas pueden seguir pasando por alto otros contenidos perjudiciales.
Detección de PII en registros de chat y transcripciones de llamadas
Los registros de chat son el caso más sencillo: el texto llega escrito, con puntuación y ortografía que las reglas pueden utilizar. Las transcripciones de voz son más complejas. El reconocimiento de voz transcribe los números de tarjeta dígito a dígito, interpreta mal los nombres, introduce vacilaciones dentro de las entidades y separa una respuesta de su pregunta en distintos turnos, de modo que una fecha de nacimiento leída de forma aislada son solo tres números.
Un procedimiento viable para las transcripciones:
- Inventaría las fuentes. Enumera todos los lugares donde se copia una conversación: servicio de asistencia, plataforma de llamadas, analítica, exportaciones de control de calidad y herramientas de observabilidad.
- Combina detectores por capas. Aplica reglas de patrones a los datos estructurados, NER a nombres y lugares, y una revisión contextual a los números que solo adquieren significado junto a la pregunta que los precedió.
- Une los turnos antes de analizarlos. Evalúa una respuesta junto con la pregunta que la originó.
- Rastrea los identificadores recurrentes a lo largo de toda la conversación. Una sola omisión en un turno posterior anula la eficacia de una supresión anterior.
- Mide la exhaustividad con una muestra etiquetada. Revisa cada semana un conjunto aleatorio de transcripciones depuradas y cuenta qué se ha pasado por alto.
- Registra las decisiones, no los valores. Registra qué tipos de entidades se encontraron y qué versión de la política se aplicó. Un estudio de gobernanza de Microsoft Presidio recomienda registros de decisiones que incluyan la fuente de datos, la versión de la política, las entidades detectadas y los operadores aplicados, además de métricas de riesgo como el porcentaje de registros que contienen PII y las tendencias de falsos positivos y falsos negativos.
Suprimir los datos en tres puntos mantiene los valores originales fuera de los sistemas persistentes: antes de que el modelo vea el texto, antes de almacenarlo y antes de reutilizarlo en exportaciones para control de calidad, formación o ajuste.
Supresión, seudonimización y anonimización
Los equipos que buscan anonimizar transcripciones suelen tratar estos tres términos como si fueran uno solo. Jurídicamente, no lo son.
| Enfoque | Qué hace | ¿Siguen siendo datos personales conforme al RGPD? |
|---|---|---|
| Supresión | Elimina u oculta valores específicos | Depende de si el texto restante permite identificar a una persona |
| Seudonimización | Sustituye los identificadores por tokens o seudónimos | Sí, si la información adicional permite restablecer el vínculo |
| Anonimización | Hace que la persona deje de ser identificable | No, pero solo si es irreversible |
El considerando 26 del RGPD establece que los datos seudonimizados atribuibles a una persona mediante información adicional siguen siendo datos personales, mientras que el reglamento no se aplica a la información anónima. Una transcripción con un recuadro negro dibujado sobre un nombre en un archivo de documento no está anonimizada si el texto subyacente puede recuperarse.
La guía del UK Data Service sobre anonimización de datos textuales ofrece un método útil para las transcripciones. Sustituye los identificadores directos, como nombres, empleadores, direcciones completas y datos de contacto, por seudónimos o elimínalos; aplica las sustituciones de manera coherente; generaliza cuando no sea necesario el detalle; suprime selectivamente la información sensible de salud; y mantén un registro de anonimización que documente cada cambio.
Para los equipos de experiencia de cliente, la elección tiene consecuencias empresariales. Los seudónimos coherentes conservan quién dijo qué y en qué orden, de modo que los análisis de sentimiento, fricción y abandono siguen funcionando. La eliminación indiscriminada de todas las entidades puede borrar el contexto que hace útil una conversación.
Poner a prueba el propio agente, no solo los datos
La detección en registros responde a una pregunta: ¿qué datos personales hemos almacenado? Una segunda pregunta importa tanto como la primera: ¿qué hace este agente cuando un usuario real, o uno malintencionado, lo pone a prueba? El texto almacenado no puede responderla, porque el fallo puede producirse en una sesión activa que nadie revisa.
Las pruebas de auditoría independiente cubren esta carencia. El enfoque que aplica Lexic Compass consiste en interactuar con un agente conversacional como lo haría un usuario real y evaluarlo en experiencia de cliente, seguridad, fiabilidad técnica y cumplimiento normativo. Como la auditoría se realiza desde fuera, puede evaluar agentes de cualquier proveedor y no depende de la supervisión del propio proveedor.
Un plan de pruebas sobre el comportamiento respecto a la PII suele incluir:
- Flujos de identidad y verificación. ¿Solicita el agente más datos de los necesarios para la tarea o confirma datos a alguien cuya identidad no se ha verificado?
- Pruebas de acceso entre usuarios. ¿Puede un usuario conseguir que el agente revele información de otra cuenta o sesión?
- Deriva temática. ¿Reaparece información facilitada al principio de una conversación después de cambiar de tema, como sugieren los resultados de PrivDrift?
- Derivación. Cuando una conversación implica datos sensibles o una reclamación, ¿la deriva el agente a una persona? Nuestras auditorías han constatado que el 85% de los agentes evaluados no derivan adecuadamente los problemas a un representante humano.
- Transparencia. ¿Deja claro el agente que el cliente está hablando con una IA?
- Gestión de evidencias. ¿Se recoge cada hallazgo de una forma que permita verificarlo posteriormente?
Sobre este último punto, Lexic utiliza funciones hash criptográficas de terceros para verificar la integridad de las evidencias y facilitar la trazabilidad. Esto resulta importante cuando hay que presentar un hallazgo a un proveedor o a un comité interno de gobernanza.
Qué hacer al detectar una fuga
Una divulgación confirmada a una persona no autorizada es una brecha de privacidad según la terminología de la GPO, mientras que una posible vulneración es un incidente. Trata ambos casos de forma diferenciada en tu procedimiento e implica cuanto antes a tu asesor jurídico en privacidad o a tu delegado de protección de datos, ya que las obligaciones de notificación dependen de la jurisdicción y de los datos afectados.
Los pasos operativos son:
- Contener: detén la vía de transmisión de datos, ya sea una exportación de registros, una llamada a una herramienta o una plantilla de instrucciones.
- Conserva las evidencias de forma que no puedan alterarse posteriormente: la conversación, la marca de tiempo, la versión del agente y la prueba que reveló el problema.
- Delimitar el alcance: identifica qué otras sesiones, registros y sistemas posteriores recibieron los mismos datos.
- Corregir y volver a probar: subsana la causa y repite después el mismo escenario con el agente en funcionamiento para confirmar que el problema ya no se reproduce.
- Mantén los registros de auditoría libres de valores originales. Almacena referencias y versiones depuradas para que la pista de auditoría no se convierta en una segunda copia de la base de datos de clientes.
En el caso de agentes operados por proveedores, las evidencias reproducibles son lo que permite convertir una reclamación en una medida correctiva exigible por contrato.
Normativa aplicable en materia de privacidad e IA
Las normas difieren según el mercado, por lo que cada una debe vincularse a su jurisdicción.

Unión Europea. El RGPD se aplica a los datos personales incluidos en grabaciones y transcripciones, y el considerando 26 establece la distinción entre datos seudonimizados y anónimos. Además, el artículo 50 del Reglamento de IA establece obligaciones de transparencia aplicables desde el 2 de agosto de 2026, entre ellas que los proveedores de sistemas que interactúan directamente con personas, como chatbots, asistentes de voz y agentes de IA, informen de que los usuarios están interactuando con IA, salvo que ya resulte evidente. Las empresas estadounidenses que venden en la UE deben comprobar que sus agentes lo comunican de forma fiable en todos los canales.
Estados Unidos. No existe una única ley federal de privacidad que abarque todas las conversaciones con clientes. Las leyes estatales cubren ese vacío. En California, la CCPA otorga a los residentes el derecho a solicitar la eliminación de la información personal recopilada sobre ellos, con excepciones como los requisitos legales de conservación. Las grabaciones y transcripciones que contienen información personal entran en ese ámbito, por lo que debes poder localizar y eliminar las conversaciones de una persona concreta. Las normas sectoriales, como HIPAA para datos de salud y PCI DSS para datos de pago, añaden sus propios requisitos de tratamiento. Confirma con tu asesor jurídico cómo se aplican a tu caso.
Nuestra perspectiva
Las herramientas de detección responden a una pregunta sobre los datos en reposo. Los consejos de administración, los reguladores y los clientes plantean otra distinta: ¿se comporta el agente como se ha prometido cuando una persona real habla con él? Los paneles de los proveedores reflejan la visión del propio proveedor sobre su propio sistema. Creemos que la supervisión de la IA conversacional debe ser independiente de quien ha desarrollado u opera el agente.
Por eso Lexic Compass interactúa con los agentes como lo hacen los clientes y registra lo ocurrido en experiencia de cliente, seguridad, fiabilidad técnica y cumplimiento normativo. Los hallazgos incluyen evidencias verificables, de modo que pueden utilizarse para gobernar el agente en producción y exigir responsabilidades al proveedor.
Los fallos de privacidad rara vez son aislados. El agente que gestiona mal un identificador a menudo tampoco deriva los casos adecuadamente, no informa de que es una IA o gestiona mal una reclamación. Tratar la PII como una dimensión de la calidad global de la conversación proporciona a los equipos una visión única en lugar de cinco herramientas separadas.
Sergio Llorens
Cómo contribuye Lexic a este trabajo
Lexic Compass audita agentes de IA conversacional de cualquier proveedor mediante interacciones reales y aporta evidencias que permiten actuar en experiencia de cliente, seguridad, fiabilidad técnica y cumplimiento normativo. Los servicios se ofrecen como Flash Preview, Audit Sprint o Enterprise Continuous Trust para una supervisión continuada. Consulta las modalidades de auditoría o la presentación de Lexic Compass.

Para los equipos que también quieren aprender de cada conversación, Lexic Pulse analiza el 100% de las interacciones con clientes en llamadas, chats, correos electrónicos y tickets, y genera información sobre sentimiento, abandono y oportunidades para los equipos de experiencia de cliente, control de calidad, operaciones y otras áreas.
Preguntas frecuentes
¿Cuál es la diferencia entre la detección de PII y la detección de fugas de PII?
La detección de PII localiza datos personales en un conjunto de textos o registros. La detección de fugas determina si esos datos llegaron a alguien o a algún lugar al que no debían: otro usuario, un registro, un proveedor externo o un conjunto de entrenamiento. Por tanto, requiere cubrir todo el flujo de procesamiento y poner a prueba el comportamiento del agente en funcionamiento.
¿Bastan las expresiones regulares para encontrar PII en registros de chat?
No. Las reglas de patrones funcionan con valores estructurados, pero una evaluación publicada obtuvo una exhaustividad de 0.65 para un sistema de referencia basado solo en expresiones regulares, frente a 0.96 para un enfoque híbrido de expresiones regulares y NER. Los nombres, las direcciones y las divulgaciones dependientes del contexto requieren reconocimiento de entidades y revisión contextual.
¿Anonimizar una transcripción la excluye del ámbito del RGPD?
Solo si la anonimización es irreversible y la persona deja de ser identificable. Las transcripciones seudonimizadas siguen siendo datos personales conforme al considerando 26 cuando la información adicional permite restablecer el vínculo. Documenta los cambios realizados y revisa una muestra en busca de identificadores residuales.
¿Puede un agente de IA filtrar PII aunque sus respuestas parezcan no contenerla?
Sí. Los datos personales pueden llegar a llamadas a herramientas, registros y contexto recuperado antes de aparecer en una respuesta o sin llegar a aparecer en ella, y la información facilitada previamente puede reaparecer tras un cambio de tema. Revisar solo las respuestas no permite detectar esto.
Fuentes
- GPO: concienciación básica sobre privacidad y buenas prácticas
- OWASP LLM06: divulgación de información sensible
- Microsoft: divulgación de información sensible (catálogo de técnicas de ataque a la IA)
- Agentes de IA de Five9: seguridad y tratamiento de datos
- NullVector: MCP y seguridad de los agentes de IA
- PrivDrift: auditoría de fugas de secretos de usuarios ante la deriva temática
- Riesgos sistémicos para la privacidad derivados de la exposición de datos personales (Springer)
- Observabilidad segura: un marco para la supresión automatizada de PII
- PII-TRACE: un banco de pruebas para la detección contextual de PII
- No confíes en ningún bot: detección de revelaciones personales en conversaciones entre humanos y LLM
- Manual operativo para la detección de identidades sintéticas
- Desidentificación de PII a escala empresarial con Microsoft Presidio
- RGPD (Reglamento 2016/679) en EUR-Lex
- UK Data Service: anonimización de datos textuales
- Cooley: las obligaciones de transparencia del EU AI Act son aplicables desde el 2 de agosto de 2026
- Fiscal general de California: CCPA

