La procedencia de los datos para la IA es el registro documentado de dónde provienen los datos, quién los ha tratado, bajo qué condiciones y qué les ha ocurrido antes de influir en un modelo o en un resultado. La Administración Nacional de Telecomunicaciones e Información de Estados Unidos (NTIA) utiliza el término para referirse al origen de los datos o de los resultados de los sistemas de IA. En la práctica, abarca dos niveles: los datos con los que se ha entrenado un sistema o que fundamentan sus respuestas, y las conversaciones y decisiones que el sistema genera una vez en funcionamiento. Las organizaciones que despliegan agentes de IA conversacional necesitan ambos.
Resumen
- La procedencia de los datos registra su origen, sus derechos de uso y su historial. El linaje de los datos registra cómo se han trasladado y transformado. La gobernanza de la IA necesita ambos.
- Los conjuntos de datos de entrenamiento suelen estar poco documentados: con frecuencia faltan las licencias o están mal identificadas, y muchas fuentes no se divulgan.
- En los agentes de IA desplegados, la procedencia se extiende a las evidencias de ejecución: qué se preguntó al agente, qué respondió, cuándo derivó el caso y qué versión produjo la respuesta.
- El EU AI Act exige que los sistemas de IA de alto riesgo permitan el registro automático de eventos, y que los responsables del despliegue y los proveedores conserven los registros durante al menos seis meses, en equilibrio con la minimización de datos del RGPD.
- Los registros solo son útiles si están completos, cuentan con controles de acceso y permiten detectar manipulaciones. Las pruebas independientes muestran si los registros se corresponden con el comportamiento real del agente.
Índice
- Qué significa la procedencia de los datos para la IA
- Qué debe recoger la procedencia a lo largo del ciclo de vida de la IA
- Procedencia y linaje de los datos: en qué se diferencian
- De los datos de entrenamiento a las evidencias de ejecución
- Requisitos de registro de la IA conforme al EU AI Act
- Cómo conciliar los registros con la privacidad y la minimización de datos
- Cómo garantizar la fiabilidad de los registros
- Una hoja de ruta práctica
- Perspectiva: la procedencia solo es tan sólida como las evidencias que la respaldan
- Evidencias independientes para los agentes de IA desplegados
- Preguntas frecuentes
- Fuentes
Qué significa la procedencia de los datos para la IA
En un almacén de datos tradicional, la procedencia responde a una pregunta concreta: ¿de dónde viene esta tabla? En la IA, la pregunta se amplía. El comportamiento de un modelo depende de los datos de entrenamiento, los datos de ajuste fino, las fuentes de recuperación de información, los prompts, las instrucciones del sistema y las personas o los sistemas que hayan modificado cualquiera de esos elementos. La procedencia es la cadena de evidencias que conecta un resultado con esas entradas.
El primer nivel es el origen de los datos. La investigación sobre cómo se desarrolla la IA muestra que este nivel está poco documentado. Una auditoría a gran escala de las licencias y la atribución de los conjuntos de datos, publicada en Nature Machine Intelligence en 2024, constató que entre las fuentes de texto más utilizadas figuran Wikipedia (14.9%), rastreos de páginas web no divulgados (7.0%), Reddit (6.2%) y Twitter (4.0%). La proporción de material rastreado cuyo origen no se divulga demuestra por qué la procedencia sigue siendo un problema abierto y no una cuestión resuelta.
Data Provenance Initiative, un grupo de investigadores responsable de esa auditoría, describe las prácticas de recopilación de datos para IA como inmaduras, con conjuntos de datos que a menudo carecen de información clara sobre su contenido y sus orígenes, según informó MIT Technology Review. Para una empresa que compra o integra un agente de IA, esto tiene una consecuencia directa: el comprador rara vez ve los datos de entrenamiento, por lo que no puede verificar su procedencia en origen. Sin embargo, sí puede exigir evidencias sobre cómo se comporta el agente.

De dónde proceden los datos de la IA
Los sistemas de IA se nutren de cuatro grandes tipos de datos:
- Web pública y corpus con licencia. Páginas rastreadas, libros, código, foros y conjuntos de datos adquiridos que se utilizan para el preentrenamiento.
- Datos seleccionados y sintéticos. Ejemplos etiquetados por personas, conjuntos de instrucciones y datos generados por otros modelos.
- Datos empresariales. Bases de conocimiento, políticas, catálogos de productos y registros de CRM que fundamentan las respuestas de un agente mediante la recuperación de información.
- Datos de interacción. Llamadas, chats, correos electrónicos y tickets generados cuando los clientes hablan con el agente.
Cada tipo tiene un titular distinto, una base jurídica distinta y un riesgo distinto. La procedencia es la disciplina que permite mantener visibles esas diferencias.
Qué debe recoger la procedencia a lo largo del ciclo de vida de la IA
Un registro de procedencia útil es lo suficientemente específico como para que un tercero pueda reconstruir lo ocurrido. A lo largo del ciclo de vida, el conjunto mínimo de campos se divide en cinco grupos.
| Etapa del ciclo de vida | Qué registrar | Por qué importa |
|---|---|---|
| Recopilación | Fuente, fecha de recopilación, método de recopilación, licencia o base del consentimiento, jurisdicción | Acredita el derecho a utilizar los datos y facilita las solicitudes de supresión o exclusión |
| Preparación | Pasos de limpieza, reglas de filtrado, proceso de etiquetado, quién realizó cada paso, versiones de las herramientas | Permite explicar posteriormente sesgos, carencias y problemas de calidad |
| Entrenamiento y configuración | Versión del modelo, versiones de los conjuntos de datos, hiperparámetros, prompt del sistema, reglas de protección, fuentes de recuperación de información | Vincula un resultado con la configuración exacta que lo produjo |
| Despliegue | Fecha de lanzamiento, historial de cambios, aprobaciones, identidad del proveedor y de los subencargados del tratamiento | Permite atribuir responsabilidades cuando un proveedor modifica el comportamiento |
| Funcionamiento | Entradas y salidas con marcas de tiempo, llamadas a herramientas, eventos de derivación, información comunicada al usuario, errores | Facilita la investigación de incidentes, las reclamaciones y las consultas de los reguladores |
Las tres primeras filas suelen ser responsabilidad del desarrollador del modelo. Las dos últimas corresponden a la organización que opera el agente, y son aquellas en las que la mayoría de las empresas invierte menos de lo necesario.
Procedencia y linaje de los datos: en qué se diferencian
Los dos términos suelen utilizarse indistintamente. Responden a preguntas diferentes. Los trabajos de OASIS sobre normas de procedencia de datos describen la procedencia como el origen de los datos y la base jurídica de su tratamiento, y el linaje como el qué, dónde, quién y cómo del tratamiento de los datos.
Una forma sencilla de entender la distinción:
- La procedencia pregunta: ¿de dónde viene esto y podemos utilizarlo de esta manera?
- El linaje pregunta: ¿qué le ha ocurrido por el camino, qué sistemas han intervenido y qué depende ahora de ello?
En el caso del linaje de la IA, esto supone un mapa que va desde las fuentes en bruto, pasando por las transformaciones, hasta los conjuntos de datos, los modelos, los prompts y, finalmente, los resultados. Si posteriormente se descubre que una fuente carece de licencia o está contaminada, el linaje muestra qué modelos y decisiones se ven afectados. La procedencia muestra si esa fuente debería haberse utilizado en primer lugar.
OASIS también destaca que los datos deben tratarse como un activo independiente con un linaje trazable, de modo que mantengan su interoperabilidad y fiabilidad al circular entre plataformas y jurisdicciones. Este principio es importante en los despliegues multinacionales, donde una sola conversación puede pasar por un proveedor de servicios en la nube, un proveedor de modelos, un CRM y un sistema de gestión de tickets en distintos países.
De los datos de entrenamiento a las evidencias de ejecución
La mayoría de los textos sobre procedencia se detienen en los datos de entrenamiento. En los agentes de IA conversacional, la mayor exposición al riesgo se produce durante la ejecución. Un agente que atiende a clientes hace declaraciones en nombre de la empresa, recopila información personal, decide si debe derivar un caso y, en ocasiones, ejecuta acciones. Cada uno de esos eventos necesita un registro.
El registro de ejecución debe responder a estas preguntas para cualquier conversación:
- ¿Qué agente, versión del modelo y configuración la gestionaron?
- ¿Se informó al cliente de que estaba hablando con una IA?
- ¿Qué datos recuperó el agente y de qué fuente?
- ¿Qué dijo y fue la declaración exacta y conforme con los requisitos aplicables?
- ¿Derivó el caso a una persona cuando debía hacerlo y con qué rapidez?
- ¿Quién revisó el resultado y qué cambió después?
La sexta pregunta es donde la gobernanza se hace efectiva. Las auditorías de Lexic han demostrado que el 85% de los agentes evaluados no deriva adecuadamente los problemas a un representante humano. El panel de un proveedor puede mostrar tasas de resolución elevadas mientras las conversaciones subyacentes revelan que los clientes quedan atrapados en bucles. Sin registros independientes, esa brecha permanece invisible.
Requisitos de registro de la IA conforme al EU AI Act
Quienes preguntan por los requisitos de registro de la IA suelen referirse al EU AI Act, que establece las normas más detalladas hasta la fecha. El artículo 12 exige que los sistemas de IA de alto riesgo permitan técnicamente el registro automático de eventos durante toda su vida útil. Las capacidades de registro deben permitir la trazabilidad, incluido el registro de eventos pertinentes para identificar situaciones de riesgo, realizar el seguimiento posterior a la comercialización y supervisar el funcionamiento del sistema.
La conservación se establece en otras dos disposiciones. Los artículos 19 y 26(6) exigen que los proveedores y los responsables del despliegue de sistemas de alto riesgo conserven los registros generados automáticamente durante al menos seis meses, salvo que el Derecho de la Unión o nacional, en particular la legislación de protección de datos personales, disponga otra cosa. En los sistemas biométricos de alto riesgo también deben registrarse datos específicos, como los datos de entrada, la información sobre coincidencias y las personas que verificaron los resultados.
Tres aspectos merecen la atención de las empresas estadounidenses que acceden al mercado europeo:
- El alcance depende de la categoría de riesgo. La obligación detallada de registro se aplica a los sistemas de alto riesgo, no a todos los chatbots. Los agentes de atención al cliente pueden quedar fuera de esa categoría, pero las obligaciones de transparencia hacia los usuarios y las propias obligaciones contractuales y de seguridad de la empresa siguen requiriendo registros. La clasificación debe confirmarse con asesoramiento jurídico.
- Los plazos han cambiado. Las fechas de aplicación de las obligaciones para sistemas de alto riesgo han sido objeto de propuestas de aplazamiento y modificaciones. Consulte el texto oficial y a la Comisión Europea para conocer el calendario vigente, en lugar de basarse en una fecha citada en una guía.
- Los responsables del despliegue también tienen obligaciones. Una empresa que compra un agente a un proveedor no está exenta. Los responsables del despliegue deben conservar los registros que estén bajo su control, lo que convierte la transparencia del proveedor en una cuestión contractual.
Cómo conciliar los registros con la privacidad y la minimización de datos
El registro y la privacidad tiran en direcciones opuestas. Los registros de las conversaciones con clientes contienen nombres, datos de cuentas y, en ocasiones, información sanitaria o financiera. Conservarlos con fines de auditoría entra en conflicto con el principio de no almacenar datos personales durante más tiempo del necesario.
Las orientaciones prácticas coinciden: respetar el mínimo de seis meses para los registros de sistemas de alto riesgo y conciliarlo con los principios de limitación del plazo de conservación y minimización de datos del RGPD. En términos operativos, esto significa definir la finalidad de cada campo del registro, conservar solo lo que esa finalidad requiere y eliminar o anonimizar los datos conforme a un calendario.
Las directrices del Gobierno de Canadá para las aplicaciones de ayuda basadas en IA son un ejemplo claro de la misma lógica. Indican que las organizaciones deben mantener registros de auditoría que detallen todos los accesos y actividades, con controles de acceso basados en roles que limiten el acceso a quienes necesiten conocer la información. También definen la minimización de datos como la recopilación exclusiva de la información personal que la IA necesita para funcionar, e indican que la información personal de las conversaciones no debe conservarse, utilizarse para fines secundarios ni divulgarse.
Un diseño práctico de conservación distingue tres niveles:
| Nivel | Contenido | Tratamiento |
|---|---|---|
| Registros operativos | Marcas de tiempo, versión del modelo, tipo de evento, indicador de derivación, códigos de error | Conservación más prolongada, bajo contenido de datos personales |
| Registros de conversaciones | Transcripciones completas | Acceso restringido, ocultación de datos cuando sea posible, conservación según la finalidad declarada y el mínimo legal |
| Conjuntos de evidencias | Muestras preservadas para una investigación o auditoría | Conservados por obligación legal, con protección de su integridad y eliminación al levantarse dicha obligación |
Cómo garantizar la fiabilidad de los registros
Un registro que el propietario del sistema puede editar constituye una evidencia débil. Las directrices de gestión documental, resumidas en una guía del sector público español incluida en el Observatorio de Políticas de IA de la OCDE, indican que los registros deben proteger la confidencialidad y la integridad y garantizar la disponibilidad, autenticidad, accesibilidad y trazabilidad. Estas cinco propiedades constituyen una lista de comprobación práctica para cualquier registro de IA.
Los equipos suelen combinar varios controles:
- Eventos estructurados con marcas de tiempo en un esquema coherente, para poder consultar registros de distintos proveedores.
- Almacenamiento de solo adición para que las entradas anteriores no puedan modificarse sin que se detecte.
- Aplicación de hashes o firmas criptográficas a las evidencias, idealmente por una parte independiente del proveedor, para poder verificar su integridad posteriormente.
- Correspondencia con marcos de referencia. ISO/IEC 42001 y el Marco de Gestión de Riesgos de IA del NIST ofrecen a los auditores un vocabulario conocido para los controles de registro y las pistas de auditoría.
- Acceso basado en roles y registro de accesos, para que también quede constancia de quién consultó una conversación.
La independencia importa tanto como la tecnología. Cuando el proveedor que opera un agente también genera el único registro de su comportamiento, el comprador dispone de una afirmación, no de una evidencia.
Una hoja de ruta práctica
Las organizaciones que parten de una base limitada pueden avanzar siguiendo este orden:
- Inventariar todos los agentes de IA utilizados de cara al cliente, incluidos los integrados en productos de proveedores. Registrar el responsable, el proveedor, el modelo, la finalidad y los mercados atendidos.
- Clasificar cada uno por riesgo conforme al EU AI Act y a cualquier normativa estatal o sectorial estadounidense aplicable, y documentar el razonamiento.
- Definir el esquema de registro. Decidir qué eventos y campos facilitan la identificación de riesgos, la supervisión y la investigación, y qué datos personales requiere cada uno.
- Establecer reglas de conservación y acceso que cumplan el mínimo de seis meses cuando sea aplicable y las obligaciones de minimización de la legislación sobre privacidad.
- Exigir evidencias al proveedor en los contratos: acceso a los registros, notificaciones de cambios en las actualizaciones de modelos o prompts y listas de subencargados del tratamiento.
- Evaluar el comportamiento de forma independiente con una periodicidad regular y, después, comparar lo que hizo realmente el agente con lo que afirman los registros y los informes del proveedor.
- Incorporar los hallazgos a la configuración, los datos de entrenamiento y las reglas de derivación, y registrar el cambio.
Perspectiva: la procedencia solo es tan sólida como las evidencias que la respaldan
Observamos el mismo patrón auditoría tras auditoría. Las organizaciones solicitan a los proveedores documentación sobre los datos de entrenamiento, reciben una declaración general y dan el asunto por cerrado. La documentación indica para qué se diseñó el agente. No muestra qué hace cuando un cliente está enfadado, confundido o pregunta algo fuera del guion.

Esa brecha es la razón por la que interactuamos con los agentes como lo hacen los usuarios reales. Un registro de procedencia que se limita al conjunto de datos deja sin responder las preguntas más trascendentes: ¿informó el agente de que era una IA?, ¿gestionó correctamente un intento de sondear su seguridad?, ¿transfirió el caso a una persona cuando era necesario? Nuestro hallazgo de que el 85% de los agentes evaluados no deriva adecuadamente los casos procede de conversaciones, no de especificaciones.
También sostenemos que las evidencias deben poder verificarse por alguien distinto de quien las produjo. La aplicación de hashes criptográficos a las evidencias de auditoría por un tercero favorece la trazabilidad y permite que un equipo de cumplimiento, un proveedor y un regulador examinen el mismo registro y coincidan en que no ha cambiado. La procedencia de los datos para la IA debe tratarse como un control continuo que acompaña al agente en cada actualización, no como un documento que se archiva en el lanzamiento.
— Sergio Llorens
Evidencias independientes para los agentes de IA desplegados
Lexic Compass es una plataforma de auditoría de agentes de IA que evalúa agentes conversacionales de cualquier proveedor interactuando con ellos como lo harían usuarios reales. Examina la experiencia del cliente, la seguridad, la fiabilidad técnica y el cumplimiento normativo, y genera hallazgos que los equipos pueden utilizar para gobernar a los agentes en producción y exigir responsabilidades a los proveedores. La página de Lexic Compass describe el enfoque en detalle.

Las modalidades de servicio van desde Flash Preview y Audit Sprint hasta Enterprise Continuous Trust para la supervisión continua; la página de opciones de auditoría explica cada una. Los equipos que también quieran analizar todas las conversaciones con clientes para detectar sentimiento, riesgo de abandono y señales de oportunidad pueden consultar Lexic Pulse. Ambos productos parten de la misma premisa: las decisiones sobre IA deben basarse en registros de conversaciones reales.
Preguntas frecuentes
¿Qué significa la procedencia de los datos?
La procedencia de los datos es el registro histórico de dónde se originaron, cómo se crearon y qué les ocurrió después. Suele almacenarse como metadatos. En la IA, también abarca los derechos asociados a los datos, como las licencias y el consentimiento.
¿En qué se diferencia el linaje de los datos de IA de su procedencia?
La procedencia establece el origen de los datos y la base jurídica para utilizarlos. El linaje traza cómo se trataron y trasladaron los datos, incluidos los sistemas y las personas que los gestionaron. La procedencia indica a una organización si puede utilizar un conjunto de datos, y el linaje le indica a qué afecta ese conjunto.
¿De dónde proceden los datos de la IA?
La mayoría de los grandes modelos se entrenan con una mezcla de rastreos de la web pública, corpus con licencia, libros, código, foros y datos sintéticos. La investigación sobre conjuntos de datos de texto muestra que fuentes como Wikipedia, Reddit y los rastreos web no divulgados representan una proporción considerable. Los agentes empresariales añaden documentos de la empresa e interacciones con clientes a esa base.
¿Qué requisitos de registro de la IA se aplican en la UE?
El EU AI Act exige que los sistemas de IA de alto riesgo permitan el registro automático de eventos durante toda su vida útil. Los proveedores y los responsables del despliegue deben conservar los registros durante al menos seis meses, salvo que otra legislación, como la de protección de datos, disponga otra cosa. Que un determinado agente de atención al cliente se considere de alto riesgo depende de su uso, por lo que la clasificación debe confirmarse con asesoramiento jurídico.
¿Durante cuánto tiempo deben conservarse los registros de conversaciones de IA?
Para los sistemas de alto riesgo, el mínimo de la UE es de seis meses, y la limitación del plazo de conservación del RGPD puede exigir que se eliminen los datos personales una vez cumplida su finalidad. Establezca la conservación según el tipo de registro: los metadatos operativos pueden mantenerse durante más tiempo, mientras que las transcripciones completas deben tener acceso restringido y un plazo limitado. Documente la finalidad que justifica cada periodo elegido.
Fuentes
- NTIA: Divulgación de información sobre los resultados de la IA: uso, procedencia e incidentes adversos
- Nature Machine Intelligence: Una auditoría a gran escala de las licencias y la atribución de los conjuntos de datos en la IA
- MIT Technology Review: De aquí proceden los datos para desarrollar la IA
- Informe técnico de OASIS sobre normas de procedencia de datos
- EU AI Act, artículo 12: Mantenimiento de registros
- Guía de gestión documental en el Observatorio de Políticas de IA de la OCDE
- Legalithm: Conservación de registros conforme al EU AI Act, la regla de los 6 meses
- Canada.ca: Privacidad y seguridad para las aplicaciones de ayuda basadas en IA

