Los 4 niveles de riesgo del AI Act
| Nivel | Qué significa | Consecuencia |
|---|---|---|
| Riesgo inaceptable | 8 prácticas prohibidas directamente por el artículo 5. | No puede comercializarse ni usarse en absoluto en la UE. |
| Alto riesgo | Entra en una de las 8 categorías del Anexo III, o es un componente de seguridad cubierto por otra legislación de producto de la UE. | Obligaciones completas: gestión de riesgo, documentación técnica, supervisión humana, evaluación de conformidad, registro. |
| Riesgo limitado | Sistemas como chatbots, deepfakes o herramientas de reconocimiento de emociones no cubiertos arriba. | Solo obligaciones de transparencia — hay que informar de que se interactúa con IA o contenido generado por IA. |
| Riesgo mínimo | Todo lo demás — filtros de spam, previsión de inventario, la mayoría de herramientas internas de productividad. | Sin obligaciones específicas del AI Act, aunque otras leyes (RGPD, normativa sectorial) puedan seguir aplicando. |
¿Tu sistema está en el nivel de riesgo inaceptable?
Comprueba esto primero — si aplica, ninguna cantidad de documentación hace legal el sistema. El artículo 5 prohíbe 8 prácticas:
- Técnicas subliminales o deliberadamente manipulativas que distorsionan materialmente el comportamiento y causan daño.
- Explotar las vulnerabilidades de un grupo concreto (edad, discapacidad, situación económica) para distorsionar su comportamiento de forma dañina.
- Scoring social — evaluar a las personas por comportamiento o características inferidas en su perjuicio, en contextos no relacionados.
- Predecir riesgo criminal basándose únicamente en perfilado o rasgos de personalidad, sin hechos objetivos y verificables.
- Scraping indiscriminado de imágenes faciales de internet o cámaras de videovigilancia para crear bases de datos de reconocimiento facial.
- Inferir emociones en el trabajo o en la educación, salvo por motivos médicos o de seguridad.
- Categorización biométrica para inferir raza, opinión política, afiliación sindical, religión u orientación sexual.
- Identificación biométrica remota en tiempo real en espacios públicos para aplicación de la ley, con excepciones estrechas.
Las 8 categorías de alto riesgo del Anexo III
Si tu sistema no está prohibido, comprueba si entra en alguna de estas — aquí es donde caen la mayoría de dudas de clasificación:
| Categoría | Cubre |
|---|---|
| Biometría | Identificación remota, categorización de atributos sensibles, reconocimiento de emociones. |
| Infraestructuras críticas | Gestión de infraestructura digital, tráfico rodado, agua, gas, calefacción, electricidad. |
| Educación y formación profesional | Admisiones, evaluación de resultados de aprendizaje, nivel educativo adecuado, monitorización del comportamiento en exámenes. |
| Empleo y gestión de trabajadores | Selección de personal, decisiones de contratación, asignación de tareas, monitorización del rendimiento. |
| Servicios esenciales y prestaciones | Elegibilidad para ayudas públicas, sanidad, solvencia crediticia, tarificación de seguros, despacho de emergencias. |
| Aplicación de la ley | Evaluación de riesgo de víctimas, valoración de pruebas, perfilado criminal por o para autoridades. |
| Migración, asilo y control fronterizo | Evaluación de riesgo de seguridad y migración, evaluación de visados, identificación en fronteras. |
| Justicia y procesos democráticos | Asistencia a la interpretación y aplicación judicial de la ley; influir en elecciones o referéndums. |
Una excepción importante: el artículo 6(3) permite que un sistema dentro de estas categorías evite la etiqueta de alto riesgo si solo realiza una tarea procedimental limitada, mejora el resultado de una actividad humana ya completada, detecta patrones sin sustituir el juicio humano, o hace trabajo puramente preparatorio — pero el proveedor tiene que documentar esa excepción, no simplemente asumirla.
Cómo hacer esta clasificación en la práctica
- Lista todos los sistemas de IA en uso, incluidos los comprados a proveedores o integrados en otro software — no puedes clasificar lo que no has inventariado.
- Comprueba primero las 8 prácticas prohibidas del artículo 5. Si alguna aplica, detén el proyecto.
- Revisa las 8 categorías del Anexo III para cada sistema restante.
- Si cae en el Anexo III, comprueba la excepción del artículo 6(3) — y documenta tu razonamiento en cualquier caso, porque "asumimos que era de bajo riesgo" no es una defensa válida en una auditoría.
- El resto se revisa contra los disparadores de transparencia de riesgo limitado (chatbots, deepfakes, contenido generado por IA) antes de asumir riesgo mínimo por defecto.
Preguntas frecuentes
¿Cómo sé si mi sistema de IA es de alto riesgo?
Comprueba si entra en alguna de las 8 categorías del Anexo III del AI Act — biometría, infraestructuras críticas, educación, empleo, servicios esenciales, aplicación de la ley, migración/fronteras, o justicia y procesos democráticos. Si entra, y no es una tarea puramente procedimental y limitada, es de alto riesgo según el artículo 6.
¿Qué sistemas de IA están totalmente prohibidos por el AI Act?
El artículo 5 prohíbe 8 prácticas: técnicas subliminales o manipulativas que causan daño, explotar a grupos vulnerables, scoring social, perfilado predictivo de criminalidad basado solo en rasgos de personalidad, scraping indiscriminado para crear bases de datos de reconocimiento facial, inferir emociones en el trabajo o la educación, categorización biométrica para inferir características protegidas, y la mayoría de identificación biométrica remota en tiempo real en espacios públicos para aplicación de la ley.
¿Un sistema dentro de una categoría del Anexo III puede seguir siendo de bajo riesgo?
Sí, en casos concretos. El artículo 6(3) permite que un sistema dentro de una categoría del Anexo III se considere que no es de alto riesgo si solo realiza una tarea procedimental limitada, mejora el resultado de una actividad humana ya completada, detecta patrones sin sustituir el juicio humano, o hace trabajo puramente preparatorio — pero el proveedor tiene que documentar y justificar esa excepción.
¿Qué pasa si clasifico mal mi sistema?
Clasificar como de riesgo menor un sistema que en realidad es de alto riesgo significa saltarte la documentación técnica, la evaluación de conformidad y las obligaciones de supervisión de los artículos 11, 14 y 47 — lo que cae dentro del nivel intermedio de sanción del artículo 99 (hasta 15 millones de euros o el 3% de la facturación global) por incumplir obligaciones de proveedores o deployers.