Sesgo algorítmico
Cuando un sistema de IA trata de forma sistemáticamente distinta e injusta a ciertos grupos de personas, normalmente por los datos con los que aprendió.
Hay sesgo algorítmico cuando un sistema de IA produce resultados que perjudican de forma sistemática a ciertos grupos (por sexo, edad, origen, discapacidad…). Casi nunca es intencionado: la IA aprende patrones de los datos, y si los datos reflejan desigualdades del pasado o no representan bien a todos, el modelo las repite o las amplifica.
Un ejemplo clásico: un sistema de selección entrenado con los CV de los empleados contratados en los últimos diez años puede aprender a penalizar perfiles que antes se contrataban poco, aunque nadie se lo haya pedido.
El AI Act obliga a examinar los posibles sesgos de los datos de entrenamiento de los sistemas de alto riesgo y a tomar medidas para detectarlos y corregirlos (artículo 10). Las técnicas habituales son medir métricas de equidad por grupo, revisar la representatividad de los datos y hacer pruebas adversarias (red teaming).
Referencia: Art. 10.2 f) y g) AI Act
Términos relacionados
Haz el diagnóstico gratuito y descubre en unos minutos qué obligaciones tiene tu empresa y por dónde empezar.
← Volver al glosarioActualizado: octubre de 2026 · Contenido informativo, no constituye asesoramiento jurídico.