Detectar fugas de información de identificación personal (PII) en las interacciones con clientes mediante IA significa localizar datos personales dondequiera que un agente los reciba, almacene, repita o transmita, no solo en la respuesta final que ve el cliente. Analizar las transcripciones en busca de números de tarjeta y correos electrónicos es un primer paso. No permite saber si un agente expone los datos de un cliente a otro, mantiene una divulgación al cambiar de tema o escribe identificadores en registros y llamadas a herramientas. El enfoque más fiable combina la detección por capas sobre los datos propios con pruebas independientes del agente tal como lo experimentaría un usuario real. Ese segundo paso es el que realiza Lexic Compass, nuestra plataforma de auditoría de agentes de IA, para agentes de cualquier proveedor.
Resumen
- La PII en las conversaciones no está estructurada y a menudo se facilita sin que se solicite. Puede aparecer en instrucciones, contexto recuperado, llamadas a herramientas, salidas del modelo, registros, representaciones vectoriales y conjuntos de entrenamiento, por lo que analizar únicamente las salidas resulta insuficiente.
- La combinación de reglas de patrones y reconocimiento de entidades nombradas (NER) supera a las reglas por sí solas en las pruebas publicadas: una exhaustividad de 0.96 frente a 0.65.
- La supresión u ocultación, la seudonimización y la anonimización no son intercambiables. Las transcripciones seudonimizadas siguen siendo datos personales conforme al RGPD.
- La detección en los registros propios muestra lo que se almacenó. Las auditorías independientes muestran lo que hace realmente el agente cuando un usuario lo pone a prueba.
- Las empresas estadounidenses que atienden a clientes de la UE afrontan obligaciones de transparencia derivadas del Reglamento de IA desde el 2 de agosto de 2026, junto con el RGPD y leyes estatales como la CCPA.
Índice
- Qué se considera una fuga de PII en una conversación con IA
- Dónde entra, persiste y reaparece la PII
- Por qué no basta con revisar solo las salidas o las transcripciones
- Cómo funciona la detección: reglas, NER y contexto
- Detección de PII en registros de chat y transcripciones de llamadas
- Supresión u ocultación, seudonimización y anonimización
- Poner a prueba al propio agente, no solo los datos
- Qué hacer al detectar una fuga
- Normativa aplicable sobre privacidad e IA
- Cómo contribuye Lexic a esta labor
- Preguntas frecuentes
- Fuentes
Qué se considera una fuga de PII en una conversación con IA
El Gobierno de Estados Unidos define la información de identificación personal (PII) como aquella que permite distinguir o rastrear la identidad de una persona, por sí sola o combinada con otra información vinculable. La guía de privacidad de la GPO, que cita el Memorando 17-12 de la OMB, también distingue entre un incidente de privacidad (una posible vulneración) y una brecha de privacidad (una divulgación confirmada a una persona no autorizada). Añade que introducir PII en las bases de datos de herramientas de IA puede ampliar la exposición y dificultar la actualización o eliminación de los datos.
En atención al cliente, las fugas de PII suelen adoptar una de estas tres formas, basadas en el riesgo de divulgación de información sensible de OWASP:
- Un usuario legítimo ve los datos de otro usuario sin que medie ninguna interacción maliciosa.
- Un usuario elude los filtros de entrada y consigue que el modelo revele PII de otras personas.
- La PII entra en el modelo a través de los datos de entrenamiento, lo que aumenta el riesgo de las dos situaciones anteriores.
Hay tres categorías prácticas de datos relevantes para los equipos de atención al cliente:
- Identificadores directos: nombres, direcciones de correo electrónico, números de teléfono, números de cuenta y documentos oficiales de identidad.
- Cuasiidentificadores: código postal, fecha de nacimiento y género. Cada uno parece inofensivo, pero juntos pueden individualizar a una persona.
- Combinaciones sensibles: un número de tarjeta con un código de seguridad, o un identificador junto a un dato de salud.
Una conversación también es distinta de un campo de base de datos. Un cliente dice su fecha de nacimiento en mitad de una frase, lee en voz alta un número de tarjeta o menciona un diagnóstico al preguntar por un reembolso. La detección debe ser capaz de abordar todos esos casos.
Dónde entra, persiste y reaparece la PII
La respuesta es el lugar más visible en el que puede aparecer PII, pero rara vez es el único. El catálogo de técnicas de ataque a la IA bajo el enfoque de confianza cero de Microsoft señala que la exposición de datos en sistemas de IA reales procede cada vez más de artefactos de memoria, contexto y recuperación, como resúmenes de trabajo, fragmentos recuperados, salidas de herramientas, entradas de almacenes vectoriales, notas de trabajo de los agentes, registros y datos en caché, en lugar de datos de entrenamiento memorizados. Recomienda realizar análisis de clasificación de contenido en instrucciones, salidas, escrituras en memoria, contexto recuperado, ingesta en almacenes vectoriales, registros y salidas de herramientas.
Un inventario práctico de superficies que conviene revisar:
| Superficie | Qué puede fallar |
|---|---|
| Entrada del usuario | Los clientes facilitan voluntariamente más información de la que requiere la tarea |
| Instrucción enviada al modelo | El mensaje del cliente y los campos de su cuenta se envían a un proveedor de modelos |
| Contexto recuperado | Se incorporan registros de conocimiento o del CRM que pertenecen a otra persona |
| Llamadas a herramientas y valores devueltos | Se transmiten nombres, fechas de nacimiento o referencias de cuenta como argumentos de funciones; las API devuelven más información de la prevista |
| Salida del modelo | Identificadores repetidos o parafraseados y contaminación entre sesiones |
| Registros y trazas | Conversaciones sin tratar copiadas en herramientas de depuración y observabilidad |
| Grabaciones y transcripciones | Números de tarjeta pronunciados o detalles de salud almacenados en sistemas persistentes |
| Representaciones vectoriales y conjuntos de entrenamiento | Datos personales difíciles de eliminar una vez incorporados |
La documentación de los proveedores confirma este patrón. La documentación de agentes de IA de Five9 señala que las grabaciones de llamadas no suprimen ni ocultan la PII: si la persona que llama la pronuncia, queda en la grabación. También indica que las transcripciones y los registros de las conversaciones pueden contener PII y que debe eliminarse antes de compartir cargas de datos para depuración.
Las conexiones con herramientas añaden otra vía. Los agentes que invocan herramientas externas mediante protocolos como MCP crean nuevas rutas para la transmisión de datos, como se explica en esta introducción a la seguridad de MCP para agentes de IA.
Por qué no basta con revisar solo las salidas o las transcripciones
Dos hallazgos explican por qué no basta con analizar lo que vio el cliente.
En primer lugar, las fugas persisten a lo largo de una conversación. El estudio PrivDrift evaluó tres grandes modelos de lenguaje con ventanas de contexto ampliadas. Tras derivar la conversación hacia temas no relacionados, la fuga híbrida a escala del diálogo se mantuvo entre el 38.7% y el 54.6%, y una mayor desviación temática no la redujo de manera fiable. Los autores sostienen que la privacidad del contexto activo debe abordarse como un modo de fallo persistente, no solo como memorización o evasión inmediata de las salvaguardas.
En segundo lugar, las sesiones pueden mezclarse. Un estudio de Springer Discover Artificial Intelligence sobre los riesgos sistémicos para la privacidad de los agentes conversacionales señala que estos pueden revelar información accidentalmente a través del contexto, incluso en despliegues multiinquilino donde los datos de sesión de un usuario se mezclan con los de otro sin que ninguno lo sepa.
Un agente también puede transmitir un nombre y una fecha de nacimiento en una llamada a una función que activa una solicitud a una API antes de que se redacte ninguna respuesta. Quien revise únicamente la respuesta nunca lo verá. Por eso, la detección debe abarcar todo el flujo de procesamiento y es necesario poner a prueba el comportamiento del agente en funcionamiento, no solo el texto almacenado.
Cómo funciona la detección: reglas, NER y contexto
La mayoría de los sistemas de detección en producción combinan tres técnicas.
- Reglas de patrones (expresiones regulares y sumas de comprobación): fiables para valores estructurados como números de tarjeta, números de la Seguridad Social estadounidense y correos electrónicos. No detectan aquello que no se ajusta al patrón.
- Reconocimiento de entidades nombradas (NER): un modelo que etiqueta nombres, lugares, organizaciones y fechas en texto libre. Detecta identificadores que no tienen un formato fijo.
- Clasificadores basados en grandes modelos de lenguaje (LLM): ofrecen la mayor exactitud, con el mayor coste y latencia. Enviar texto sin suprimir u ocultar datos a la API de un modelo de terceros genera su propio problema de privacidad.
La diferencia entre las dos primeras técnicas es medible. Un marco publicado para la supresión u ocultación automatizada de PII indica que un servicio híbrido de expresiones regulares y NER alcanzó una precisión de 0.92, una exhaustividad de 0.96 y una puntuación F1 de 0.94 en el conjunto de datos CRAPII. Un sistema de referencia basado únicamente en expresiones regulares alcanzó una exhaustividad de 0.65, lo que, según los autores, entraña el riesgo de filtrar hasta el 35% de la PII. La exhaustividad es la cifra que conviene vigilar: mide cuánta PII real encuentra efectivamente el detector.
El contexto determina qué se considera PII
La misma cadena de texto puede ser PII en una frase e inofensiva en otra. El banco de pruebas PII-TRACE señala que un nombre referido al usuario es PII, mientras que un nombre referido a una figura pública o a un lugar no lo es, y que debe detectarse cada aparición de un identificador recurrente. Los detectores de referencia mostraron dificultades con diálogos largos, multilingües y que combinaban distintos medios.
Divulgaciones que no son PII clásica
El estudio de COLM 2024 No confíe en ningún bot analizó conversaciones reales entre personas y chatbots. Detectó PII en contextos inesperados: el 48% de las veces en tareas de traducción y el 16% en edición de código. También constató que la detección de PII por sí sola no abarca temas sensibles como preferencias sexuales detalladas o hábitos de consumo de drogas. Para un equipo de atención al cliente, esto significa que las reglas de detección deben combinarse con una revisión temática de cuestiones de salud, dificultades económicas y divulgaciones similares. La investigación sobre señales de fraude y carencias de los detectores de identidad muestra la misma limitación desde otro ángulo: los detectores que encuentran nombres y datos de cuenta pueden seguir pasando por alto otros contenidos perjudiciales.
Detección de PII en registros de chat y transcripciones de llamadas
Los registros de chat son el caso más sencillo: el texto llega escrito, con puntuación y ortografía que las reglas pueden aprovechar. Las transcripciones de voz presentan más dificultades. El reconocimiento del habla transcribe los números de tarjeta dígito a dígito, interpreta mal los nombres, inserta vacilaciones dentro de las entidades y separa una respuesta de su pregunta en distintos turnos, de modo que una fecha de nacimiento leída de forma aislada no es más que tres números.
Un procedimiento viable para las transcripciones:
- Inventariar las fuentes. Enumere todos los lugares en los que se copia una conversación: servicio de asistencia, plataforma de llamadas, analítica, exportaciones de control de calidad y herramientas de observabilidad.
- Combinar detectores por capas. Aplique reglas de patrones para datos estructurados, NER para nombres y lugares, y una revisión contextual para números que solo tienen significado junto a la pregunta que los precedió.
- Unir los turnos antes del análisis. Evalúe cada respuesta junto con la pregunta o instrucción que la originó.
- Rastrear los identificadores recurrentes en toda la conversación. Una sola omisión en un turno posterior invalida la supresión u ocultación realizada antes.
- Medir la exhaustividad con una muestra etiquetada. Revise cada semana un conjunto aleatorio de transcripciones con datos suprimidos u ocultos y cuente los que se hayan pasado por alto.
- Registrar las decisiones, no los valores. Registre qué tipos de entidades se encontraron y qué versión de la política se aplicó. Un estudio de gobernanza de Microsoft Presidio recomienda registros de decisiones con la fuente de datos, la versión de la política, las entidades detectadas y los operadores aplicados, junto con métricas de riesgo como el porcentaje de registros que contienen PII y las tendencias de falsos positivos y falsos negativos.
Suprimir u ocultar los datos en tres puntos evita que los valores originales lleguen a sistemas persistentes: antes de que el modelo vea el texto, antes del almacenamiento y antes de su reutilización en exportaciones para control de calidad, formación o ajuste del modelo.
Supresión u ocultación, seudonimización y anonimización
Los equipos que buscan anonimizar transcripciones suelen tratar estos tres términos como si fueran uno solo. Jurídicamente no lo son.
| Enfoque | Qué hace | ¿Siguen siendo datos personales conforme al RGPD? |
|---|---|---|
| Supresión u ocultación | Elimina o enmascara valores concretos | Depende de si el texto restante permite identificar a una persona |
| Seudonimización | Sustituye los identificadores por tokens o seudónimos | Sí, si la información adicional permite restablecer el vínculo |
| Anonimización | Hace que la persona deje de ser identificable | No, pero solo si es irreversible |
El considerando 26 del RGPD establece que los datos seudonimizados atribuibles a una persona mediante información adicional siguen siendo datos personales, mientras que el Reglamento no se aplica a la información anónima. Una transcripción con un recuadro negro sobre un nombre en un archivo de documento no está anonimizada si el texto subyacente se puede recuperar.
La guía de UK Data Service sobre anonimización de datos textuales ofrece un método útil para las transcripciones. Sustituya identificadores directos como nombres, empleadores, direcciones completas y datos de contacto por seudónimos o elimínelos; aplique las sustituciones de forma coherente; generalice cuando no se necesite precisión; suprima u oculte selectivamente la información de salud sensible; y mantenga un registro de anonimización que documente cada cambio.
Para los equipos de experiencia del cliente, la elección tiene consecuencias para el negocio. Los seudónimos coherentes conservan quién dijo qué y en qué orden, por lo que siguen siendo posibles los análisis de sentimiento, fricción y abandono. La eliminación indiscriminada de todas las entidades puede borrar el contexto que hace útil una conversación.
Poner a prueba al propio agente, no solo los datos
La detección en registros responde a una pregunta: ¿qué datos personales hemos almacenado? Una segunda pregunta es igual de importante: ¿qué hace este agente cuando un usuario real, o uno malicioso, lo somete a presión? El texto almacenado no puede responderla, porque el fallo puede producirse en una sesión activa que nadie revise.
Las pruebas de auditoría independiente cubren esta carencia. El enfoque que aplica Lexic Compass consiste en interactuar con un agente conversacional como lo haría un usuario real y evaluarlo en experiencia del cliente, seguridad, fiabilidad técnica y cumplimiento normativo. Dado que la auditoría se realiza desde fuera, puede evaluar agentes de cualquier proveedor y no depende de la supervisión del propio proveedor.
Un plan de pruebas sobre el comportamiento respecto a la PII suele incluir:
- Flujos de identidad y verificación. ¿Solicita el agente más datos de los que requiere la tarea o confirma detalles a alguien cuya identidad no se ha verificado?
- Pruebas entre usuarios. ¿Puede un usuario conseguir que el agente revele información perteneciente a otra cuenta o sesión?
- Desviación temática. ¿Reaparece la información facilitada al principio de una conversación después de cambiar de tema, como sugieren los resultados de PrivDrift?
- Derivación. Cuando una conversación implica datos sensibles o una reclamación, ¿la deriva el agente a una persona? Nuestras auditorías han constatado que el 85% de los agentes evaluados no derivan adecuadamente las incidencias a un representante humano.
- Información al usuario. ¿Deja claro el agente que el cliente está hablando con una IA?
- Gestión de evidencias. ¿Se recoge cada hallazgo de una forma que permita verificarlo posteriormente?
Sobre este último punto, Lexic utiliza funciones hash criptográficas de terceros para verificar la integridad de las evidencias y respaldar la trazabilidad. Esto es importante cuando un hallazgo debe presentarse a un proveedor o a un comité interno de gobernanza.
Qué hacer al detectar una fuga
Una divulgación confirmada a una persona no autorizada constituye una brecha de privacidad según la terminología de la GPO, mientras que una posible vulneración es un incidente. Trate ambos casos de forma distinta en su procedimiento e implique desde el principio a su asesor jurídico de privacidad o delegado de protección de datos, ya que las obligaciones de notificación dependen de la jurisdicción y de los datos afectados.
Los pasos operativos son:
- Contener: detenga la vía de transmisión de los datos, ya sea una exportación de registros, una llamada a una herramienta o una plantilla de instrucciones.
- Conservar las evidencias en un formato que no pueda alterarse después: la conversación, la marca de tiempo, la versión del agente y la prueba que reveló el problema.
- Determinar el alcance: identifique qué otras sesiones, registros y sistemas posteriores recibieron los mismos datos.
- Corregir y volver a probar: subsane la causa y repita después el mismo escenario con el agente en funcionamiento para confirmar que el fallo ya no se reproduce.
- Mantener los valores originales fuera de los registros de auditoría. Almacene referencias y versiones con datos suprimidos u ocultos para que la pista de auditoría no se convierta en una segunda copia de la base de datos de clientes.
En el caso de los agentes operados por proveedores, las evidencias reproducibles son las que permiten transformar una reclamación en una medida correctiva exigible contractualmente.
Normativa aplicable sobre privacidad e IA
Las normas varían según el mercado, por lo que debe vincularse cada una a su jurisdicción.

Unión Europea. El RGPD se aplica a los datos personales contenidos en grabaciones y transcripciones, y el considerando 26 establece la frontera entre los datos seudonimizados y los anónimos. Además, el artículo 50 del Reglamento de IA establece obligaciones de transparencia aplicables desde el 2 de agosto de 2026, entre ellas que los proveedores de sistemas que interactúan directamente con personas, como chatbots, asistentes de voz y agentes de IA, informen de que los usuarios están interactuando con IA, salvo que ya resulte evidente. Las empresas estadounidenses que venden en la UE deben comprobar que sus agentes lo indican de forma fiable en todos los canales.
Estados Unidos. No existe una única ley federal de privacidad que abarque todas las conversaciones con clientes. Las leyes estatales cubren ese vacío. En California, la CCPA otorga a los residentes el derecho a solicitar la supresión de la información personal recopilada sobre ellos, con excepciones como los requisitos legales de conservación. Las grabaciones y transcripciones que contienen información personal entran en ese ámbito, por lo que debe ser posible localizar y eliminar las conversaciones de una persona concreta. Las normas sectoriales, como HIPAA para datos de salud y PCI DSS para datos de pago, añaden sus propios requisitos de tratamiento. Confirme su aplicación a su caso con asesoramiento jurídico.
Nuestra perspectiva
Las herramientas de detección responden a una pregunta sobre datos en reposo. Los consejos de administración, los reguladores y los clientes plantean otra: ¿se comporta el agente como promete cuando una persona real habla con él? Los paneles de los proveedores reflejan su propia visión de su propio sistema. Creemos que la supervisión de la IA conversacional debe ser independiente de quien haya desarrollado u opere el agente.
Por eso, Lexic Compass interactúa con los agentes como lo hacen los clientes y registra lo sucedido en experiencia del cliente, seguridad, fiabilidad técnica y cumplimiento normativo. Los hallazgos incluyen evidencias verificables, de modo que puedan utilizarse para gobernar el agente en producción y exigir responsabilidades al proveedor.
Los fallos de privacidad rara vez son aislados. El agente que gestiona mal un identificador a menudo tampoco deriva correctamente las incidencias, no informa de que es una IA o gestiona mal una reclamación. Tratar la PII como una dimensión de la calidad global de la conversación ofrece a los equipos una visión única en lugar de cinco herramientas separadas.
Sergio Llorens
Cómo contribuye Lexic a esta labor
Lexic Compass audita agentes de IA conversacional de cualquier proveedor mediante interacciones reales y aporta evidencias que permiten actuar sobre la experiencia del cliente, la seguridad, la fiabilidad técnica y el cumplimiento normativo. Los servicios se ofrecen como evaluación preliminar rápida, ciclo intensivo de auditoría o confianza continua empresarial para una supervisión permanente. Consulte las opciones de contratación de auditoría o la descripción general de Lexic Compass.

Para los equipos que también quieren aprender de cada conversación, Lexic Pulse analiza el 100% de las interacciones con clientes en llamadas, chats, correos electrónicos y solicitudes de soporte, y genera información sobre sentimiento, abandono y oportunidades para los equipos de experiencia del cliente, control de calidad, operaciones y otras áreas.
Preguntas frecuentes
¿Cuál es la diferencia entre detectar PII y detectar fugas de PII?
La detección de PII localiza datos personales en un conjunto de textos o registros. La detección de fugas analiza si esos datos llegaron a alguien o a algún lugar al que no debían: otro usuario, un registro, un proveedor externo o un conjunto de entrenamiento. Por tanto, requiere cubrir todo el flujo de procesamiento y poner a prueba el comportamiento del agente en funcionamiento.
¿Bastan las expresiones regulares para encontrar PII en los registros de chat?
No. Las reglas de patrones funcionan con valores estructurados, pero una evaluación publicada obtuvo una exhaustividad de 0.65 para un sistema de referencia basado únicamente en expresiones regulares, frente a 0.96 para un enfoque híbrido de expresiones regulares y NER. Los nombres, las direcciones y las divulgaciones dependientes del contexto requieren reconocimiento de entidades y revisión contextual.
¿Anonimizar una transcripción la excluye del ámbito del RGPD?
Solo si la anonimización es irreversible y la persona deja de ser identificable. Las transcripciones seudonimizadas siguen siendo datos personales conforme al considerando 26 cuando la información adicional permite restablecer el vínculo. Documente los cambios realizados y revise una muestra en busca de identificadores residuales.
¿Puede un agente de IA filtrar PII aunque sus respuestas parezcan no contenerla?
Sí. Los datos personales pueden pasar a llamadas a herramientas, registros y contexto recuperado antes de aparecer en una respuesta o sin llegar a hacerlo, y la información facilitada anteriormente puede reaparecer tras un cambio de tema. Revisar únicamente las respuestas no permite detectar esto.
Fuentes
- GPO: concienciación básica sobre privacidad y buenas prácticas
- OWASP LLM06: divulgación de información sensible
- Microsoft: divulgación de información sensible (catálogo de técnicas de ataque a la IA)
- Agentes de IA de Five9: seguridad y tratamiento de datos
- NullVector: MCP y seguridad de los agentes de IA
- PrivDrift: auditoría de fugas de secretos de usuarios ante la desviación temática
- Riesgos sistémicos para la privacidad derivados de la exposición de datos personales (Springer)
- Observabilidad segura: un marco para la supresión u ocultación automatizada de PII
- PII-TRACE: un banco de pruebas para la detección contextual de PII
- No confíe en ningún bot: detección de divulgaciones personales en conversaciones entre personas y LLM
- Manual operativo de detección de identidades sintéticas
- Desidentificación de PII a escala empresarial con Microsoft Presidio
- RGPD (Reglamento 2016/679) en EUR-Lex
- UK Data Service: anonimización de datos textuales
- Cooley: las obligaciones de transparencia del EU AI Act son aplicables desde el 2 de agosto de 2026
- Fiscal general de California: CCPA

