Metodología de Fairness Testing y Red-Teaming
Cómo probar sesgo y equidad de un modelo antes de desplegarlo, y un protocolo para intentar romperlo deliberadamente antes de que lo haga un usuario real o un regulador.
Qué incluye
- PDF con la metodología de fairness testing: qué métricas de equidad usar según el caso de uso, cómo definir grupos protegidos, cómo interpretar los resultados
- Protocolo de red-teaming: categorías de ataque a probar (jailbreaks, extracción de datos de entrenamiento, sesgo inducido, prompts adversarios) y cómo documentar cada intento
- Excel con plantilla de registro de pruebas, resultados y hallazgos
- Aviso Legal
Por qué existe este documento
El AI Act exige medidas de gestión de riesgos y supervisión humana para sistemas de alto riesgo, pero no basta con tener la intención de que un modelo sea justo — hay que probarlo activamente antes de desplegarlo. La mayoría de equipos no tienen ni el vocabulario ni el proceso para hacerlo de forma sistemática: qué métrica de equidad usar, cómo estructurar un ejercicio de red-teaming, cómo documentar lo que se encuentra. Este documento traduce ambas disciplinas en un proceso replicable, sin dar por hecho un doctorado en fairness en machine learning.
Preguntas frecuentes
¿Necesito conocimientos de ciencia de datos para aplicar esta metodología?
Se necesita a alguien con capacidad de ejecutar consultas o scripts básicos sobre los resultados del modelo (un data scientist o analista), pero la metodología en sí está explicada sin dar por hecho experiencia previa en fairness testing.
¿Qué es exactamente el red-teaming aplicado a IA?
Es el proceso de intentar deliberadamente que un modelo falle o se comporte de forma no deseada antes de desplegarlo, para encontrar los fallos con seguridad interna en vez de con usuarios reales.
¿Sustituye el asesoramiento legal?
No. Es una metodología de trabajo técnico, pero no constituye asesoramiento jurídico ni garantiza por sí sola el cumplimiento del AI Act — ver el Aviso Legal incluido.
¿En qué formato se entrega?
PDF con la metodología de fairness testing y el protocolo de red-teaming, más Excel con plantilla de registro de pruebas y hallazgos.