¿Cómo se detectan las alucinaciones de IA?

Se compara cada respuesta con su fuente o con hechos verificados y se puntúa el resultado. Las técnicas habituales incluyen la evaluación de la respuesta de un LLM por otro LLM, la entropía semántica de múltiples muestras, los detectores ligeros basados en señales internas y la revisión humana. Los sistemas en producción combinan varias de estas técnicas porque cada una deja sin detectar distintos tipos de fallos.

¿Se puede indicar a una IA que no genere alucinaciones?

Las instrucciones ayudan, pero no resuelven el problema. Las alucinaciones se derivan de cómo los modelos generativos producen texto, por lo que las instrucciones que exigen precisión reducen los errores sin eliminarlos. La fundamentación en fuentes, las respuestas aprobadas para temas de alto riesgo, las reglas de derivación y la supervisión continua funcionan mejor cuando se combinan.

Detección de alucinaciones de IA: métodos, métricas y supervisión

La detección de alucinaciones de IA consiste en identificar respuestas del modelo que son inventadas, carecen de respaldo en el material de origen o contradicen los hechos del mundo real, antes de que las encuentre un cliente o un regulador. En producción, ninguna técnica basta por sí sola. Una detección fiable combina comprobaciones automatizadas de cada respuesta con una revisión independiente de conversaciones reales y un proceso de supervisión documentado.

Esta guía aborda los principales métodos de detección, las métricas que conviene seguir, por qué los agentes con generación aumentada por recuperación siguen alucinando y cómo reducir las alucinaciones de los LLM en despliegues de atención al cliente. Está dirigida a los equipos de cumplimiento normativo, experiencia de cliente (CX) y tecnología que gestionan agentes de IA conversacional.

Lexic AI

Descubre qué hacen realmente tus agentes de IA

Lexic audita de forma independiente conversaciones reales de distintos proveedores de IA e identifica puntos ciegos en la experiencia de cliente, la seguridad y el rendimiento técnico.

Explora Lexic Compass

Resumen

Las alucinaciones se derivan del funcionamiento de los modelos generativos. Las advertencias no las corrigen; la medición y la supervisión documentada, sí.
Distingue la fidelidad a la fuente (¿la respuesta coincide con el contexto proporcionado?) de la veracidad factual (¿coincide con la realidad?). Requieren medidas correctoras diferentes.
Combina métodos: LLM como juez, entropía semántica, detectores ligeros de estados internos y revisión humana por muestreo. Cada uno detecta fallos distintos.
Los paneles proporcionados por el proveedor no constituyen evidencia independiente. Audita conversaciones reales, incluida la derivación a personas y la información al usuario sobre el uso de IA.
Lexic audita agentes de IA conversacional de cualquier proveedor y puede analizar el 100% de las conversaciones en lugar de una muestra.

Índice

Qué se considera una alucinación en una conversación con un cliente
Por qué la ingeniería no puede eliminar por completo las alucinaciones
Principales métodos para detectar alucinaciones de los LLM
Por qué la recuperación de información no resuelve el problema
Cómo reducir las alucinaciones de los LLM en producción
El sesgo y la equidad deben formar parte de la misma revisión
Qué esperan los reguladores: evidencia independiente
Nuestra perspectiva: auditar lo que hizo el agente, no lo que se diseñó para hacer
Cómo contribuye Lexic a la supervisión de las alucinaciones
Crear un programa de detección: una secuencia que funciona
Errores habituales
Preguntas frecuentes
Fuentes

Qué se considera una alucinación en una conversación con un cliente

Una alucinación es una respuesta que parece fluida y segura, pero es falsa, inventada o carece de respaldo. En atención al cliente, se manifiesta como una política de reembolso inventada, un tipo de interés incorrecto, un estado de pedido ficticio o una respuesta categórica a una pregunta que el agente debería haber derivado a una persona.

Antes de elegir un método de detección, conviene distinguir dos conceptos.

La fidelidad a la fuente significa que la respuesta es coherente con el contexto proporcionado al agente, como un artículo de la base de conocimiento o una política recuperada. La veracidad factual significa que la respuesta es coherente con el conocimiento general. Los investigadores que revisan las alucinaciones en los LLM establecen esta distinción porque las medidas correctoras difieren. Corregir la fidelidad en un agente basado en recuperación es, principalmente, una tarea de ingeniería: mejorar la recuperación, precisar las instrucciones y reforzar la fundamentación en las fuentes. Corregir la veracidad factual suele requerir un nuevo entrenamiento o un ajuste fino exhaustivo, algo que la mayoría de las empresas no puede hacer con el modelo de un proveedor.

Los responsables empresariales suelen tratar ambos conceptos como un único problema. El resultado es un mandato impreciso de «detener las alucinaciones», sin responsable ni métrica.

También existe una tercera categoría que rara vez aparece en los artículos de investigación, pero predomina en las reclamaciones: los fallos de comportamiento. El agente no afirma un hecho falso, pero no deriva la consulta a una persona, oculta que es una IA o promete algo que no puede cumplir. Los verificadores de veracidad factual no detectan estos fallos. Solo se encuentran al revisar lo que el agente hizo realmente en conversaciones reales.

Qué se considera una alucinación en una conversación con un cliente — diagrama general

Por qué la ingeniería no puede eliminar por completo las alucinaciones

La alucinación no es un defecto de la interfaz de usuario. El Perfil de IA Generativa del NIST la describe como una consecuencia de cómo los modelos generativos producen texto a partir de patrones estadísticos, por lo que el NIST recomienda evaluar el riesgo de alucinaciones en las aplicaciones empresariales basadas en LLM, en lugar de confiar en avisos de exención de responsabilidad.

La misma lógica se aplica en Europa. El EU AI Act impone a las organizaciones obligaciones de transparencia, documentación y supervisión. Un pie de página que diga «La IA puede cometer errores» no demuestra una supervisión activa. Los registros del rendimiento del sistema, sí.

La conclusión práctica: prevé una tasa de alucinaciones distinta de cero, mídela de forma continua y establece un proceso que detecte los fallos y los derive al equipo adecuado.

Principales métodos para detectar alucinaciones de los LLM

Los profesionales suelen combinar varios enfoques. La visión general de Dataiku enumera cuatro familias habituales: detectores LLM basados en instrucciones, verificadores de similitud semántica, análisis estocástico basado en BERT y puntuación de coincidencia de tokens, y señala que ningún método detecta todos los tipos de alucinaciones. La siguiente tabla añade los enfoques más relevantes para los agentes conversacionales.

Método	Cómo funciona	Ventaja	Limitación
LLM como juez	Un segundo modelo comprueba si el contexto respalda una afirmación	Flexible, capta los matices	Coste computacional elevado; el juez también puede equivocarse
Entropía semántica	Genera una muestra de varias respuestas y mide la incertidumbre sobre su significado	Funciona con texto libre sin datos etiquetados	Requiere ajustar los umbrales; solo detecta una parte de las alucinaciones
Detectores de estados internos	Pequeños modelos auxiliares leen estados ocultos o probabilidades de salida	Suficientemente rápidos para la detección inmediata	Requieren acceso a los componentes internos del modelo o a sus probabilidades
Coincidencia léxica (coincidencia exacta, n-gramas)	Compara la redacción con una referencia	Bajo coste	Muchos falsos positivos ante paráfrasis válidas
Revisión humana de muestras	Los revisores leen las transcripciones	Detecta problemas de contexto y tono	No escala; el muestreo deja fuera fallos poco frecuentes
Auditoría de todas las conversaciones	Cada conversación se analiza según criterios de políticas, seguridad e información al usuario	Cobertura completa, evidencia para los reguladores	Requiere integración con los datos de las conversaciones

LLM como juez

Utilizar un modelo para evaluar otro es el enfoque más habitual en los sistemas basados en recuperación. Trabajos de Amazon y de autores de NeurIPS indican que este tipo de detección es muy eficaz y suele alcanzar una exactitud del 75% o superior en contextos de recuperación, pero ejecutarlo en cada turno resulta costoso. El artículo LLM-Check investiga alternativas más económicas basadas en señales internas del modelo y comunica mejoras de velocidad de hasta 450x frente a las comprobaciones basadas en instrucciones.

AWS describe una configuración de detección de alucinaciones para aplicaciones RAG que compara varias de estas técnicas y constituye un punto de partida útil para los equipos de ingeniería.

Entropía semántica

Las métricas léxicas penalizan respuestas correctas que utilizan palabras distintas. La entropía semántica evita este problema al medir la incertidumbre en el plano del significado. El método publicado en Nature genera una muestra de múltiples respuestas, agrupa las que significan lo mismo y marca las preguntas cuyos significados divergen. Es adecuado para la generación de texto libre. Requiere umbrales cuidadosamente definidos, ya que unos valores demasiado bajos marcan variaciones inocuas y saturan de ruido a los revisores.

Evaluación específica de conversaciones

Las pruebas de referencia genéricas no siempre son aplicables a los chats de atención al cliente. Dos artículos recientes se centran en las conversaciones:

HalluDetect, un marco para chatbots basados en recuperación con múltiples turnos, alcanzó una puntuación F1 del 69% en un chatbot de reclamaciones de consumidores, y el sistema desplegado redujo las alucinaciones a 0.4159 por turno, con una exactitud por token del 96.13%.
FECT, una prueba de referencia para transcripciones de centros de contacto, comunicó un F1 medio de 0.86 en la detección de incoherencias factuales en afirmaciones interpretativas cuando los jueces LLM se alinearon mediante un enfoque de descomposición, desacoplamiento y separación.

Considera estas cifras como indicadores de lo que se puede lograr en condiciones de estudio, no como garantías para tu agente. Tus políticas, tus datos y tus clientes producirán un perfil de errores diferente.

Por qué la recuperación de información no resuelve el problema

La generación aumentada por recuperación fundamenta las respuestas en tus documentos, lo que reduce la invención de contenido. También añade nuevos puntos de fallo. Si la recuperación devuelve un fragmento incorrecto, una política desactualizada o una coincidencia parcial, el modelo puede producir una respuesta fluida que sea fiel a la fuente equivocada.

AWS describe una medida de mitigación: una caché semántica verificada de pares de preguntas y respuestas seleccionados y revisados. Las preguntas con un alto nivel de confianza se responden desde la caché, sin pasar por el LLM. El modelo gestiona las preguntas similares, pero con matices, mediante unos pocos ejemplos que delimitan sus respuestas. Para temas regulados como las comisiones, los requisitos de acceso y las condiciones de cancelación, este patrón ofrece respuestas aprobadas por una persona.

Cómo reducir las alucinaciones de los LLM en producción

La detección indica qué está fallando. La reducción combina decisiones de diseño y disciplina operativa.

Define qué puede responder el agente. Enumera los temas que entran en su ámbito y los que deben derivarse a una persona. Un ámbito ambiguo es la raíz de la mayoría de las respuestas erróneas formuladas con seguridad.
Selecciona y revisa respuestas aprobadas para temas de alto riesgo. Utiliza respuestas verificadas para precios, condiciones legales y orientación médica o financiera.
Fundamenta y delimita el modelo. Proporciona el contexto pertinente, exige que el agente indique cuándo carece de información y limita lo que puede afirmar.
Puntúa cada respuesta cuando el coste lo permita. Utiliza un detector de bajo coste en cada turno y un juez más potente en los turnos marcados o de alto riesgo.
Establece una regla de derivación y ponla a prueba. Un agente que reconoce su incertidumbre y deriva la consulta es más seguro que uno que hace conjeturas.
Programa las revisiones. Las directrices del NIST AI RMF resumidas por SafeAI for Business recomiendan una supervisión trimestral que registre las variaciones de exactitud, las reclamaciones de los usuarios y las disparidades demográficas.
Conserva los registros. Los registros de pruebas, hallazgos y correcciones son lo que se presenta a un auditor.

Los controles organizativos importan tanto como los controles del modelo. Una visión práctica de los controles empresariales de ejecución para agentes muestra cómo encajan los despliegues por fases, los permisos y la supervisión a lo largo de unos meses: la misma disciplina que requiere la gestión de las alucinaciones.

El sesgo y la equidad deben formar parte de la misma revisión

Los equipos que buscan sesgos en la IA conversacional suelen analizar los mismos datos que los equipos que buscan alucinaciones: las transcripciones. Ambos problemas se solapan. Un agente puede ser exacto para un grupo de clientes y poco fiable para otro, o derivar a algunos clientes con más rapidez que a otros. Las directrices del NIST mencionadas incluyen expresamente las disparidades demográficas en el registro de supervisión, por lo que una revisión de alucinaciones que nunca segmente los resultados por grupo de clientes es incompleta.

En la práctica, añade campos de segmentación a tu evaluación: idioma, canal, línea de producto y, cuando sea lícito y se disponga de la información, grupo de clientes. Después, compara las tasas de error y derivación entre segmentos.

Qué esperan los reguladores: evidencia independiente

Para las empresas que atienden a clientes de la UE, incluidas las empresas estadounidenses que entran en Europa, la gestión de las alucinaciones se enmarca en las obligaciones más amplias del EU AI Act. Las directrices de la Comisión Europea sobre el artículo 50 establecen que los proveedores deben diseñar los sistemas que interactúan directamente con personas, como los chatbots y los agentes de IA, de modo que los usuarios sepan que están tratando con una IA. Ese comportamiento se puede comprobar en las conversaciones; no es solo un ajuste en un archivo de configuración.

De ello se desprenden dos puntos para los equipos de cumplimiento normativo:

La función importa. Los sistemas que solo perfeccionan el formato o el tono reciben un tratamiento distinto de aquellos que generan contenido sustancial o realizan evaluaciones. Estos últimos están sujetos a obligaciones más estrictas de transparencia y conservación de registros conforme al texto del EU AI Act.
Los datos del proveedor no bastan. Es difícil identificar si un riesgo se origina en los datos de entrenamiento, en las entradas del sistema o en las respuestas generadas. Verificar el comportamiento de forma independiente, en condiciones reales, es el enfoque defendible.

Este artículo describe requisitos generales. Para tomar decisiones sobre tus propias obligaciones, consulta a un asesor jurídico cualificado que conozca el EU AI Act.

Nuestra perspectiva: auditar lo que hizo el agente, no lo que se diseñó para hacer

La mayoría de las herramientas de detección de alucinaciones responde a una pregunta técnica: ¿este documento respalda esta frase? Eso es necesario. No es suficiente para una empresa que debe demostrar que controla su IA de atención al cliente.

Auditamos agentes de IA conversacional de cualquier proveedor y no desarrollamos ni operamos agentes propios. Esa independencia es esencial. Un equipo que confía en las métricas del propio proveedor está pidiendo a la parte evaluada que se califique a sí misma. Cuando un regulador, un consejo de administración o un cliente pregunta cómo sabes que el agente se comporta adecuadamente, la evidencia extraída de conversaciones reales y recopilada de forma independiente tiene más peso.

Nuestras auditorías han constatado que el 85% de los agentes auditados no deriva correctamente las incidencias a representantes humanos. Es un fallo distinto de un hecho inventado, pero produce el mismo perjuicio: un cliente que recibe una respuesta errónea o no obtiene una solución, y una empresa que no tiene constancia de ello. Los equipos que se centran únicamente en detectar errores factuales lo pasan por alto.

Nuestra visión, en cuatro puntos:

Medir el comportamiento a lo largo de toda la conversación, incluida la derivación y la información sobre el uso de IA, no solo las respuestas individuales.
Cubrir todas las conversaciones siempre que sea posible. Las alucinaciones son sucesos poco frecuentes y el muestreo puede dejarlas fuera.
Mantener la auditoría independiente del proveedor del agente para que los hallazgos puedan defenderse.
Derivar los hallazgos al equipo que pueda corregirlos: CX, seguridad, ingeniería o cumplimiento normativo.

— Sergio Llorens

Cómo contribuye Lexic a la supervisión de las alucinaciones

Lexic Compass audita agentes de IA de cualquier proveedor a partir de conversaciones reales y comprueba el cumplimiento normativo, las vulnerabilidades de seguridad, la gestión de las derivaciones y la información al cliente sobre el uso de IA. Los servicios están disponibles en las modalidades Flash Preview, Audit Sprint o Enterprise Continuous Trust, descritas en la página de servicios de auditoría. La descripción general de la auditoría de agentes de IA explica qué cubre Compass. Para obtener información continua sobre clientes a partir de llamadas, chats, correos electrónicos y tickets, incluidas señales de sentimiento, abandono y oportunidades, consulta Lexic Pulse. Estas páginas no publican precios.

Crear un programa de detección: una secuencia que funciona

Un despliegue viable no empieza por las herramientas. Empieza por el alcance.

Paso 1: Haz un inventario de tus agentes y fuentes de conversaciones

Enumera todos los agentes de IA que hablan con clientes, su proveedor, los canales que utilizan y dónde se almacenan las transcripciones. Muchas empresas descubren agentes que no sabían que estaban activos.

Paso 2: Define los tipos de fallo

Redacta una taxonomía breve: afirmación sin respaldo, afirmación contradicha por la evidencia, recuperación incorrecta, derivación omitida, falta de información sobre el uso de IA, incumplimiento de políticas e instrucción insegura. Asigna a cada tipo un responsable y un nivel de gravedad.

Paso 3: Establece valores de referencia

Realiza una evaluación inicial sobre un conjunto representativo de conversaciones. Registra la tasa por tipo de fallo y por segmento. Sin un valor de referencia, no puedes demostrar mejoras.

Paso 4: Combina comprobaciones automatizadas y humanas

Utiliza detectores automatizados para obtener cobertura y personas para calibrarlos. Revisa una muestra de conversaciones marcadas y no marcadas para conocer tanto la tasa de falsos positivos como la de falsos negativos.

Paso 5: Añade alertas y derivación de hallazgos

Los hallazgos de alta gravedad, como una afirmación jurídica incorrecta o la negativa a derivar la consulta a una persona, deben activar alertas inmediatas. Los patrones de menor gravedad pueden revisarse semanalmente. Las orientaciones prácticas sobre qué configurar primero en la atención al cliente con IA destacan la misma prioridad: definir los conocimientos, los límites y las derivaciones del agente antes de ajustar cualquier otro aspecto.

Paso 6: Repite las comprobaciones después de cada cambio

Las actualizaciones del modelo, las nuevas instrucciones y el nuevo contenido de la base de conocimiento modifican el comportamiento. Repite la evaluación después de cada cambio y conserva los resultados.

Errores habituales

Confiar en una única puntuación. Una sola tasa de alucinaciones oculta la diferencia entre una paráfrasis inocua y una invención perjudicial.
Utilizar métricas de coincidencia exacta. Marcan paráfrasis correctas y provocan fatiga en los revisores.
Probar solo instrucciones predefinidas. Los clientes reales se expresan de forma imprevisible, interrumpen, cambian de tema y cuestionan las respuestas.
Ignorar la derivación. Un agente que nunca dice «No lo sé» supone un riesgo, incluso cuando los hechos que presenta son correctos.
Aceptar los informes del proveedor como prueba. Son aportaciones útiles, no una garantía independiente.

Preguntas frecuentes

¿Cómo se detectan las alucinaciones en la IA?

Compara cada respuesta con su fuente o con hechos verificados y puntúa el resultado. Entre las técnicas habituales se encuentran un LLM que evalúa la respuesta de otro LLM, la entropía semántica sobre múltiples muestras, los detectores ligeros basados en señales internas y la revisión humana. Los sistemas en producción combinan varias de estas técnicas porque cada una deja escapar tipos de fallo diferentes.

¿Con qué frecuencia se producen las alucinaciones de IA?

Las tasas varían mucho según el modelo, la tarea y el ámbito, por lo que no existe una cifra única aplicable a tu agente. En el estudio HalluDetect sobre un chatbot de reclamaciones de consumidores, el sistema optimizado seguía registrando una media de 0.4159 alucinaciones por turno. Mide tu propia tasa a partir de tus propias conversaciones.

¿Se puede indicar a una IA que no alucine?

Las instrucciones ayudan, pero no eliminan el problema. Las alucinaciones se derivan de cómo los modelos generativos producen texto, por lo que las instrucciones que exigen exactitud reducen los errores sin eliminarlos. La fundamentación en fuentes, las respuestas aprobadas para temas de alto riesgo, las reglas de derivación y la supervisión continua funcionan mejor de forma conjunta.

¿La generación aumentada por recuperación evita las alucinaciones?

No. Reduce la invención de contenido, pero introduce errores de recuperación, en los que el modelo responde fielmente a partir de un fragmento incorrecto o desactualizado. Evalúa por separado la calidad de la recuperación y la fidelidad de la respuesta.

¿Por qué es importante la auditoría independiente para el cumplimiento normativo?

Los reguladores y los consejos de administración quieren evidencia que no proceda del proveedor evaluado. Una auditoría independiente de conversaciones reales muestra cómo se comporta el agente en la práctica, incluida la derivación y la información sobre el uso de IA, y proporciona a los equipos de cumplimiento normativo registros que pueden defender.