La clasificación de la IA como de alto riesgo en virtud del EU AI Act depende del uso que se haga de un sistema, no de la tecnología que lo sustenta. Un sistema es de alto riesgo si es un componente de seguridad de un producto regulado o si su uso previsto se encuadra en uno de los ámbitos enumerados en el anexo III. La clasificación es una condición jurídica. Determina las obligaciones que corresponden al proveedor y al responsable del despliegue. Esta guía explica cómo funcionan las dos vías, dónde encajan los agentes de IA que interactúan con clientes y qué verificar con un proveedor.
En resumen
- El artículo 6 establece dos vías para la clasificación como de alto riesgo: la IA en productos sujetos a la legislación del anexo I y la IA utilizada en los ocho ámbitos del anexo III.
- La clasificación depende de la finalidad prevista y del contexto de uso. El mismo modelo puede ser de alto riesgo en un despliegue y no serlo en otro.
- Un sistema del anexo III solo puede quedar fuera de la categoría de alto riesgo si no presenta un riesgo significativo de causar daños y cumple una condición del artículo 6(3). La elaboración de perfiles de personas físicas excluye esa posibilidad.
- Los proveedores de sistemas de alto riesgo necesitan una evaluación de la conformidad, documentación, gestión de riesgos y supervisión humana antes de introducirlos en el mercado. Los responsables del despliegue necesitan que las responsabilidades de cada parte queden claras por escrito.
- Las empresas estadounidenses que venden en la UE están sujetas al Reglamento cuando sus sistemas se introducen en el mercado de la UE o sus resultados se utilizan en ella. Las pruebas independientes del comportamiento efectivo aportan evidencias que la documentación por sí sola no puede ofrecer.
Índice
- Qué significa «alto riesgo» en el Reglamento de IA
- Las dos vías del artículo 6
- La excepción del artículo 6(3) y la regla sobre elaboración de perfiles
- ¿Es de alto riesgo un agente de IA de atención al cliente?
- Obligaciones cuando un sistema es de alto riesgo
- Riesgo asociado a proveedores de IA: ¿proveedor o responsable del despliegue?
- Por qué la documentación no basta
- Nuestra perspectiva
- Cómo apoya Lexic la clasificación y la supervisión
- Una secuencia práctica para empresas estadounidenses que entran en la UE
- Preguntas frecuentes
- Fuentes
Qué significa «alto riesgo» en el Reglamento de IA
El Reglamento de IA clasifica los sistemas según el riesgo que presentan. Según la Comisión Europea, los sistemas de alto riesgo son aquellos que pueden afectar negativamente a la seguridad o a los derechos fundamentales. Están permitidos, pero solo si cumplen requisitos obligatorios. Por encima de ellos se sitúan las prácticas prohibidas, que no están permitidas. Por debajo, la mayoría de los sistemas de riesgo mínimo no conllevan obligaciones legales adicionales, aunque algunos deberes de transparencia se aplican con independencia de la categoría de riesgo.
De esta estructura se desprenden tres puntos:
- Alto riesgo no significa prohibición. Es una condición regulada con obligaciones definidas.
- Alto riesgo no equivale a estar sujeto únicamente a obligaciones de transparencia. Un chatbot que deba informar de que es una IA puede seguir quedando fuera de la categoría de alto riesgo.
- La condición se atribuye a un sistema en un uso concreto. No se atribuye a una familia de modelos ni a un proveedor.
Quienes buscan «clasificación del riesgo de IA» suelen esperar una puntuación o un cuestionario. El Reglamento no establece un método de puntuación. Establece un análisis jurídico, recogido en el artículo 6.
Las dos vías del artículo 6
El artículo 6 del Reglamento de IA establece dos vías distintas, tal como recoge el texto consolidado del servicio de asistencia sobre el Reglamento de IA de la Comisión.
Primera vía: componentes de seguridad de productos regulados
El artículo 6(1) establece dos condiciones acumulativas. En primer lugar, el sistema de IA es un componente de seguridad de un producto, o es en sí mismo un producto, sujeto a la legislación de armonización de la Unión enumerada en el anexo I. En segundo lugar, ese producto debe someterse a una evaluación de la conformidad por un tercero antes de introducirse en el mercado o ponerse en servicio. Deben cumplirse ambas condiciones.
Esta vía abarca sectores como la maquinaria, los productos sanitarios y los juguetes, en los que la legislación sobre seguridad de los productos ya exige una evaluación externa. Para estos sistemas, las orientaciones de aplicación de la Comisión señalan el 2 de agosto de 2027 como la fecha a partir de la cual se aplican el artículo 6(1) y sus obligaciones correspondientes.
Segunda vía: los casos de uso del anexo III
El artículo 6(2) remite al anexo III. Un sistema cuyo uso previsto se encuadre en uno de sus ámbitos se considera de alto riesgo. El anexo III enumera ocho ámbitos, entre ellos la biometría cuando la ley permite su uso, además de otros ámbitos que abarcan el empleo, la educación, el acceso a servicios esenciales y la administración de justicia.
Para la mayoría de las empresas de software, esta segunda vía es la pertinente. Se define por la función. Una herramienta de filtrado de currículos, un modelo de puntuación crediticia y un sistema de supervisión de exámenes se clasifican por lo que hacen, no por cómo se han desarrollado.
| Pregunta | Primera vía (anexo I) | Segunda vía (anexo III) |
|---|---|---|
| ¿Qué la activa? | Componente de seguridad de un producto regulado, o el propio producto | Uso previsto en un ámbito enumerado |
| ¿La evaluación de la conformidad por un tercero forma parte del análisis? | Sí, para el producto | No, pero el proveedor sigue sujeto a un procedimiento de conformidad |
| ¿Puede aplicarse una excepción? | No se aplica la excepción del artículo 6(3) | Sí, si no existe un riesgo significativo de causar daños y se cumple una condición del artículo 6(3) |
| Ejemplos habituales | IA en productos sanitarios y maquinaria | Contratación, educación, crédito, servicios esenciales |
La excepción del artículo 6(3) y la regla sobre elaboración de perfiles
Un sistema del anexo III no es automáticamente de alto riesgo en todos los casos. En virtud del artículo 6(3), un sistema en un ámbito del anexo III puede quedar fuera de esta clasificación cuando no presenta un riesgo significativo de causar daños a la salud, la seguridad o los derechos fundamentales. Según el texto consolidado de 27 de julio de 2026, también debe cumplir una de estas condiciones:
- El sistema realiza una tarea de procedimiento limitada.
- El sistema mejora el resultado de una actividad humana previamente completada.
- El sistema detecta patrones de toma de decisiones o desviaciones respecto de ellos y no sustituye ni influye en la evaluación humana sin una revisión humana adecuada.
- El sistema realiza una tarea preparatoria para una evaluación pertinente para un caso de uso del anexo III.
El mismo texto del artículo 6 excluye esta posibilidad en un supuesto. Un sistema del anexo III siempre se considera de alto riesgo cuando elabora perfiles de personas físicas.
En la práctica, esto limita considerablemente la excepción. Todo sistema que evalúe, clasifique o puntúe a una persona en un contexto del anexo III debe tratarse como de alto riesgo, salvo que una revisión jurídica cualificada concluya lo contrario. Los equipos que se acojan a la excepción deben documentar el razonamiento y mantenerlo a disposición de las autoridades reguladoras. Una conclusión alcanzada de manera informal, sin dejar constancia, resulta difícil de defender posteriormente.
¿Es de alto riesgo un agente de IA de atención al cliente?
No existe una respuesta universal. La Comisión indica que la clasificación depende de la finalidad prevista, la función, la finalidad específica y las modalidades de uso de un sistema. Un agente de atención al cliente que responde a preguntas sobre envíos no suele encuadrarse en un ámbito del anexo III. En ese caso, la obligación es de transparencia: las personas deben saber que están hablando con un sistema de IA.
El análisis cambia cuando cambia la función del agente. Preguntas que deben plantearse para cada despliegue:
- ¿El agente decide sobre el acceso a algo recogido en el anexo III o influye en dicho acceso? Un agente que filtra candidatos o determina si una persona reúne los requisitos para acceder a un servicio de una categoría de servicios esenciales se aproxima a la categoría de alto riesgo.
- ¿Elabora perfiles de personas? Puntuar a los clientes según su comportamiento, solvencia o probabilidad de abandono puede activar la regla sobre elaboración de perfiles cuando interviene un ámbito del anexo III.
- ¿Trata datos biométricos? La identificación por voz o la inferencia de emociones entran en un ámbito regulado y requieren una comprobación jurídica específica.
- ¿Se ha desviado su finalidad? Un asistente general configurado para clasificar reclamaciones o solicitudes puede haberse convertido en algo distinto de lo que documentó el proveedor.
El último punto es el más importante para los responsables del despliegue. La finalidad viene determinada por el uso previsto declarado por el proveedor, pero el comportamiento efectivo depende de la configuración, las instrucciones, las integraciones y las conversaciones que inician los clientes. Una clasificación sobre el papel puede diferir de lo que hace el agente en producción.
Obligaciones cuando un sistema es de alto riesgo
Las orientaciones de la Comisión indican que, antes de introducir un sistema de alto riesgo en el mercado o ponerlo en servicio, los proveedores deben completar la evaluación de la conformidad y cumplir requisitos relativos a:
- gestión de riesgos
- calidad de los datos
- documentación técnica
- transparencia
- supervisión humana
- exactitud
- ciberseguridad
- solidez
La evaluación debe repetirse tras una modificación sustancial. Los proveedores también deben registrar los sistemas de alto riesgo en una base de datos pública de la UE.
Evaluación de la conformidad
La evaluación de la conformidad es el procedimiento mediante el cual un proveedor demuestra que el sistema cumple los requisitos. Se realiza antes de la introducción en el mercado y de nuevo tras un cambio sustancial. En el caso de un sistema que se evaluó una vez y después se reentrenó, reconfiguró o destinó a una nueva finalidad, la cuestión es si el cambio es sustancial. Esa cuestión requiere una respuesta documentada.
Registros y conservación
Las orientaciones de aplicación de la Comisión indican que los proveedores deben conservar la documentación técnica, los registros del sistema de gestión de la calidad y las decisiones de los organismos notificados durante 10 años tras la introducción del sistema en el mercado. Los registros de actividad deben conservarse durante al menos seis meses o durante un periodo adecuado a la finalidad prevista.
Obligaciones continuas
El Reglamento no establece un periodo fijo de soporte. Según las mismas orientaciones, sus obligaciones relativas al ciclo de vida, incluidas la gestión de riesgos del artículo 9 y el rendimiento del artículo 15, exigen que los proveedores mantengan la actualización y la supervisión durante todo el funcionamiento. Por tanto, la conformidad no consiste en un informe independiente emitido una sola vez. Es una condición que debe mantenerse mientras el sistema esté en funcionamiento.
Calendario
La aplicación es escalonada. Según las orientaciones de aplicación de la Comisión, las disposiciones sobre prácticas prohibidas se aplican desde el 2 de febrero de 2025, y determinadas disposiciones se aplican desde el 2 de agosto de 2025. Las obligaciones del artículo 6(1) se aplican a partir del 2 de agosto de 2027. Determinados sistemas de alto riesgo destinados a autoridades públicas deben cumplir los requisitos a más tardar el 2 de agosto de 2030. Las fechas en este ámbito han sido objeto de debate político, por lo que conviene confirmar el calendario vigente en las páginas oficiales de la Comisión antes de fijar un plan de cumplimiento.
Riesgo asociado a proveedores de IA: ¿proveedor o responsable del despliegue?
La mayoría de las empresas adquieren agentes de IA en lugar de desarrollarlos. Eso no elimina su exposición al riesgo. El artículo 25 establece cuándo una empresa que adquiere o integra un sistema pasa a ser proveedor. Según el texto del artículo 25, una organización asume las obligaciones del proveedor si:
- pone su propio nombre o marca en un sistema de alto riesgo,
- realiza una modificación sustancial de un sistema de alto riesgo de modo que siga siendo de alto riesgo, o
- cambia la finalidad de un sistema que no es de alto riesgo de modo que pase a serlo.
El mismo artículo exige que los proveedores y los terceros que suministran componentes o servicios para sistemas de alto riesgo establezcan, en un acuerdo escrito, la información, las capacidades, el acceso técnico y la asistencia necesarios. Se aplica una excepción a determinadas herramientas y componentes de acceso público sujetos a licencias libres y de código abierto.
Lista de comprobación para revisar un proveedor
Utilice estas preguntas al evaluar a un proveedor de IA:
- Finalidad prevista. ¿Qué declara la documentación del proveedor y coincide con su uso?
- Razonamiento de la clasificación. ¿Ha evaluado el proveedor el anexo III y el artículo 6(3)? ¿Está el razonamiento por escrito?
- Acceso a la documentación. ¿Le dará el contrato acceso a la documentación técnica, las instrucciones de uso y los registros de actividad que necesita como responsable del despliegue?
- Control de cambios. ¿Cómo se le informa de las actualizaciones del modelo y quién decide si un cambio es sustancial?
- Supervisión humana. ¿Puede el agente transferir una conversación a una persona y puede demostrar que lo hace?
- Pruebas de seguridad. ¿Qué evidencias existen de que el agente resiste la inyección de instrucciones y la fuga de datos en condiciones de funcionamiento real?
- Asignación de obligaciones. ¿Establece el contrato quién es el proveedor y quién es el responsable del despliegue, y qué ocurre si eso cambia?
Las garantías del proveedor responden a las cuatro primeras preguntas. Las preguntas de la quinta a la séptima requieren observar el comportamiento. Es ahí donde aparecen la mayoría de las carencias.
Por qué la documentación no basta
El expediente de un sistema de alto riesgo puede estar completo y, aun así, describir un sistema que se comporta de forma distinta en la práctica. Las autoridades reguladoras, los clientes y los tribunales examinarán lo que el agente dijo e hizo. Por eso las pruebas independientes del agente en funcionamiento son importantes para la clasificación y para exigir responsabilidades al proveedor.
Nuestras auditorías han revelado que el 85% de los agentes evaluados no deriva adecuadamente las incidencias a un representante humano. La supervisión humana es un requisito expreso para los sistemas de alto riesgo. Un agente que no transfiere la interacción cuando debe hacerlo deja una brecha entre el control documentado y el efectivo. Para los responsables del despliegue, esa brecha supone a la vez una exposición al incumplimiento normativo y un fallo en la experiencia del cliente.
Nuestra perspectiva
La clasificación es donde empieza la mayoría de las organizaciones y donde muchas se detienen. Observamos tres problemas recurrentes.
En primer lugar, la clasificación se trata como un dictamen jurídico puntual. Los agentes cambian mediante modificaciones de las instrucciones, nuevas herramientas y actualizaciones del modelo. Cada cambio puede alterar lo que hace el agente y, por tanto, su nivel de riesgo. La clasificación necesita un responsable y un ciclo de revisión.
En segundo lugar, la declaración del proveedor se trata como una prueba. Una declaración expresa una intención. No muestra lo que hace el agente cuando un cliente está frustrado, es vulnerable o intenta llevarlo fuera de su ámbito de actuación. La única forma de saberlo es interactuar con el agente como lo haría un usuario real, abarcando la experiencia del cliente, la seguridad, la fiabilidad técnica y el cumplimiento normativo.
En tercer lugar, las evidencias no se conservan de una forma en la que otros puedan confiar. Cuando una autoridad reguladora, un consejo de administración o un proveedor cuestiona un hallazgo, el registro debe resistir el escrutinio. Por eso Lexic Compass utiliza funciones hash criptográficas de terceros para verificar la integridad de las evidencias y respaldar la trazabilidad.
Consideramos que las organizaciones gobiernan mejor sus agentes de IA cuando la evaluación es independiente del proveedor y se basa en conversaciones observadas. La clasificación indica qué normas se aplican. Las pruebas indican si el agente las cumple.
— Sergio Llorens
Cómo apoya Lexic la clasificación y la supervisión
Lexic Compass es una plataforma de auditoría de agentes de IA que evalúa agentes conversacionales de cualquier proveedor interactuando con ellos como lo harían usuarios reales. Abarca la experiencia del cliente, la seguridad, la fiabilidad técnica y el cumplimiento normativo, incluidas la gestión de derivaciones a personas y la información al cliente sobre el uso de IA. El resultado son evidencias que los equipos pueden utilizar para gobernar los agentes en producción y exigir responsabilidades a los proveedores.
Los servicios se prestan en varios formatos: Flash Preview, Audit Sprint y Enterprise Continuous Trust. Los detalles figuran en la página de auditoría de Compass. Para las organizaciones que también quieran comprender lo que dicen los clientes en llamadas, chats, correos electrónicos y solicitudes de soporte, Lexic Pulse analiza esas conversaciones para detectar señales de sentimiento, abandono y oportunidades.
Una secuencia práctica para empresas estadounidenses que entran en la UE
Las empresas con sede en Estados Unidos suelen encontrarse con el Reglamento de IA cuando planifican su entrada en el mercado de la UE. Una secuencia de trabajo viable es la siguiente:
- Inventariar todos los agentes y sistemas de IA. Registrar su finalidad, los datos a los que acceden, quién los suministra y dónde se despliegan.
- Contrastar cada uso con los anexos I y III. Dejar constancia del resultado y del razonamiento, incluidos los argumentos relativos al artículo 6(3) y la comprobación de la elaboración de perfiles.
- Asignar funciones. Determinar si la organización es proveedor o responsable del despliegue de cada sistema y contrastarlo con los supuestos del artículo 25.
- Adecuar los contratos. Asegurarse de que los acuerdos cubren la información, el acceso técnico, los registros de actividad y la asistencia.
- Probar el comportamiento en funcionamiento. Verificar la información sobre el uso de IA, la derivación a personas, la seguridad y el cumplimiento en conversaciones reales, y conservar las evidencias.
- Supervisar y volver a revisar. Repetir la clasificación y las pruebas tras cambios sustanciales y confirmar los plazos vigentes en las páginas oficiales de la Comisión.
Un asesor jurídico cualificado en Derecho de la UE debe confirmar la clasificación de cualquier sistema próximo a un ámbito del anexo III. Este artículo ofrece información general y no sustituye ese asesoramiento.
Preguntas frecuentes
¿Qué es un sistema de IA de alto riesgo en virtud del EU AI Act?
Es un sistema que actúa como componente de seguridad de un producto sujeto a la legislación del anexo I o que está destinado a utilizarse en un ámbito enumerado en el anexo III. Los sistemas de alto riesgo están permitidos en el mercado de la UE, pero antes deben cumplir requisitos obligatorios. La condición depende de la finalidad prevista y del uso, no de la tecnología subyacente.
¿Puede un sistema del anexo III quedar fuera de la categoría de alto riesgo?
Sí, en casos limitados. No debe presentar un riesgo significativo de causar daños y debe cumplir una de las condiciones del artículo 6(3), como realizar una tarea de procedimiento limitada o una tarea preparatoria. La excepción nunca se aplica cuando el sistema elabora perfiles de personas físicas.
¿Qué es una evaluación de la conformidad para la IA?
Es el procedimiento mediante el cual un proveedor demuestra que un sistema de alto riesgo cumple los requisitos del Reglamento antes de introducirlo en el mercado o ponerlo en servicio. Debe repetirse tras una modificación sustancial. Los requisitos incluyen la gestión de riesgos, la documentación, la supervisión humana, la exactitud y la ciberseguridad.
¿Es de alto riesgo un chatbot de atención al cliente?
Por lo general, no lo es por defecto, pero depende de su función. Si influye en decisiones en un ámbito del anexo III o elabora perfiles de personas en ese contexto, puede ser de alto riesgo. Incluso cuando no lo sea, pueden seguir aplicándose obligaciones de transparencia, por lo que los clientes deben saber que están interactuando con un sistema de IA.
¿Cómo debemos evaluar el riesgo asociado a los proveedores de agentes de IA?
Empiece por la finalidad prevista, el razonamiento de clasificación del proveedor y el acuerdo escrito sobre información y acceso técnico. Después, verifique directamente el comportamiento, en especial la derivación a personas, la información sobre el uso de IA y la seguridad. Compruebe si algún cambio que realice podría convertirle en proveedor en virtud del artículo 25.
Fuentes
- Guía para comprender el Reglamento de IA, Comisión Europea
- Artículo 6: Reglas de clasificación de los sistemas de IA de alto riesgo, servicio de asistencia sobre el Reglamento de IA
- Anexo III, servicio de asistencia sobre el Reglamento de IA
- Orientaciones de aplicación del EU AI Act, Comisión Europea
- Artículo 25: Responsabilidades a lo largo de la cadena de valor de la IA