Checklist de Solidez de Sistemas de IA (Art. 15 AI Act)
Los 13 elementos obligatorios, con referencias cruzadas a la gestión de riesgos, vigilancia poscomercialización y notificación de incidentes que probablemente ya tienes — y plantilla de partida para los 3 que casi nadie tiene cubiertos todavía.
Qué incluye
- Excel con las 9 áreas de evaluación de solidez, cada una con su pregunta orientativa y una recomendación práctica
- Registro de métricas: qué mides, cuál es el umbral mínimo garantizado, el valor medido y si estás dentro — la tabla que pide un auditor
- Autoevaluación: propietario y última revisión de cada área
- Guía en PDF con las 9 áreas resumidas
- Aviso Legal
Por qué la solidez no es una prueba que se pasa una vez
El Art. 15 del Reglamento (UE) 2024/1689 exige que los sistemas de alto riesgo alcancen un nivel adecuado de precisión, solidez y ciberseguridad, y que funcionen de forma coherente durante todo su ciclo de vida. Ese matiz es el que se suele pasar por alto: no basta con validar el modelo antes de desplegarlo. Un sistema que se reentrena, o cuyos datos de entrada cambian con el tiempo, puede ir degradándose en silencio sin que nadie lo note hasta que ya es un problema serio.
Las 9 áreas que cubre
- Ciclo de vida y solidez — en qué fases se evalúa, no solo antes del despliegue.
- Selección de métricas — cuáles aplican a tu tipo de modelo y su finalidad prevista.
- Validación y verificación — proceso para confirmar que se cumplen antes de cada despliegue.
- Eficiencia del sistema — consumo de cómputo, memoria y tiempo de respuesta.
- Rendimiento — comparación con el estado del arte o con versiones anteriores.
- Monitorización continua — cuadros de mando de solidez en producción, no solo en pruebas.
- Resistencia a errores — detección y notificación cuando el comportamiento se sale de los límites documentados.
- Redundancia y planes de respaldo — qué pasa si el sistema falla o se degrada por debajo del mínimo.
- Degradación con el tiempo — el área más olvidada, y la que más importa en sistemas que siguen aprendiendo.
Encaja con lo que ya tienes
Si ya usas el Checklist ISO/IEC 23894 para gestión de riesgo, este cubre la parte técnica que aquel deja fuera. Y si tienes el Checklist de Sistema de Gestión de Calidad, este desarrolla su elemento 17.1.d (examen, prueba y validación).