Saltar al contenido

EIPD / DPIA para sistemas de IA: cuándo es obligatoria y cómo hacerla

¿Qué es una EIPD y por qué el AI Act la hace más urgente?

La Evaluación de Impacto relativa a la Protección de Datos (EIPD), o DPIA por sus siglas en inglés, es el análisis que el Art. 35 del RGPD exige antes de iniciar un tratamiento que probablemente entrañe un alto riesgo para los derechos de las personas. No es un trámite que se rellena y se archiva: es el documento que la autoridad de protección de datos pide ver primero cuando investiga un tratamiento de riesgo, y su ausencia o insuficiencia ha figurado entre los motivos de sanción en casos como el de Mercadona (2021).

En nuestra lectura, los sistemas de IA capaces de actuar de forma autónoma, agentes que toman decisiones o ejecutan acciones sin intervención humana en cada paso, alteran los flujos de datos habituales y hacen que la evaluación de impacto sea todavía más necesaria antes de desplegarlos, no menos.

¿Cuándo es obligatoria?

La regla general del Art. 35.1 es el "alto riesgo probable": una formulación amplia a propósito. Pero el Art. 35.3 fija tres supuestos en los que la EIPD es siempre obligatoria, sin necesidad de valorar caso por caso:

  • Evaluación sistemática y exhaustiva de aspectos personales basada en tratamiento automatizado, incluido el perfilado, cuando de ahí se deriven decisiones con efectos jurídicos o que afecten significativamente a la persona.
  • Tratamiento a gran escala de categorías especiales de datos (salud, origen étnico, biometría, etc.) o de datos de condenas e infracciones penales.
  • Observación sistemática a gran escala de una zona de acceso público: piensa en videovigilancia con analítica de comportamiento, no solo cámaras grabando.

Además de estos tres supuestos del propio Reglamento, cada autoridad de protección de datos publica su propia lista (en España, la AEPD) de tipologías de tratamiento que exigen EIPD (Art. 35.4), y otra de tratamientos exentos (Art. 35.5): conviene revisar ambas antes de dar por hecho que un tratamiento concreto la necesita o no.

El puente directo con el AI Act

Aquí está la conexión que más empresas pasan por alto: si un sistema de IA trata datos personales, y la inmensa mayoría de los sistemas de alto riesgo del Anexo III lo hacen, porque hablamos de RR. HH., scoring crediticio, educación o biometría: su clasificación como alto riesgo en el AI Act es casi siempre, en la práctica, una señal de que también se cumple alguno de los supuestos del Art. 35 del RGPD. Tratar el AI Act y el RGPD como dos ejercicios separados duplica trabajo que, bien planteado, es prácticamente el mismo análisis documentado dos veces.

Qué debe incluir una EIPD (Art. 35.7)

ElementoQué responde
Descripción sistemáticaQué se trata, con qué fines, y sobre qué base jurídica.
Necesidad y proporcionalidad¿Es este tratamiento necesario para el fin perseguido, o hay una vía menos invasiva?
Evaluación de riesgosQué riesgos concretos existen para los derechos y libertades de las personas afectadas.
Medidas de mitigaciónQué se hace para reducir esos riesgos a un nivel aceptable.

Cuándo hace falta consulta previa a la autoridad (Art. 36)

Si, después de aplicar las medidas de mitigación previstas, la propia EIPD concluye que el riesgo residual sigue siendo alto, el Art. 36 del RGPD obliga a consultar a la autoridad de protección de datos antes de empezar el tratamiento. No es el paso habitual: es la excepción para cuando el análisis honesto dice que no se puede reducir el riesgo lo suficiente por cuenta propia. Saltarse esta consulta cuando corresponde es, en sí mismo, un incumplimiento adicional al del tratamiento original.

El caso que lo explica mejor que cualquier norma

En 2021 la autoridad española (AEPD) sancionó a Mercadona con 2,52 millones de euros por un sistema de reconocimiento facial en tiendas: consideró ilícito el tratamiento de datos biométricos, sin necesidad ni proporcionalidad acreditadas, y calificó la evaluación de impacto de insuficiente. El caso resume bien el riesgo real: no es que la tecnología en sí fuera necesariamente ilegal, es que se puso en marcha sin haber documentado antes por qué era necesaria, qué riesgos entrañaba y cómo se iban a mitigar: exactamente lo que una EIPD obliga a responder antes de empezar, no después de que algo salga mal.

Los nueve criterios del CEPD: cómo decidirlo en la práctica

Además de los tres casos automáticos del artículo 35.3, las autoridades europeas de protección de datos (el CEPD, que hizo suyas las directrices del Grupo de Trabajo del Artículo 29, conocidas como WP248) publicaron nueve criterios para valorar si un tratamiento entraña "probablemente un alto riesgo". La regla práctica: si el tratamiento cumple dos o más criterios, normalmente hace falta una EIPD. A veces basta uno, y si decides no hacerla conviene dejar por escrito por qué.

#Criterio del CEPDCómo se ve en un sistema de IA
1Evaluación o puntuación (incluye perfilado y predicción)Scoring de crédito, ranking de candidatos, predicción de fuga o de fraude.
2Decisiones automatizadas con efecto jurídico o similarRechazar un préstamo, una solicitud o una reclamación sin revisión humana.
3Observación o monitorización sistemáticaSeguimiento de productividad de empleados, analítica de vídeo, monitorización de comportamiento online.
4Datos sensibles o muy personalesSalud, biometría, ubicación, datos financieros, comunicaciones privadas.
5Tratamiento a gran escalaMuchas personas, muchos registros, amplio alcance geográfico o larga duración.
6Cruce o combinación de conjuntos de datosEnriquecer datos de clientes con fuentes de terceros para entrenar o alimentar un modelo.
7Personas vulnerablesEmpleados, menores, pacientes, candidatos a un empleo: cualquiera en una posición de desequilibrio.
8Uso innovador o nueva tecnologíaIA generativa, agentes, reconocimiento de emociones, nuevos métodos biométricos.
9Tratamiento que impide ejercer un derecho o acceder a un servicio o contratoPuntuaciones que deciden quién obtiene crédito, seguro, vivienda o empleo.

Ejemplo, una herramienta de cribado de CV. Puntúa candidatos (criterio 1), puede descartar solicitudes automáticamente (2), afecta a candidatos, que están en una posición de desequilibrio (7), usa una tecnología innovadora (8) y puede cerrarles el acceso a un empleo (9). Son cinco de nueve criterios, así que la EIPD es claramente necesaria antes de ponerla en marcha.

Preguntas frecuentes

¿Siempre hace falta una EIPD para un sistema de IA?

No. Hace falta cuando el tratamiento puede suponer un alto riesgo para los derechos de las personas. En la práctica, la mayoría de los sistemas de IA que tratan datos personales para puntuar, perfilar o decidir automáticamente cumplen dos o más de los nueve criterios del CEPD, que es la señal habitual de que hace falta.

¿Cuántos criterios del CEPD obligan a hacer una EIPD?

Como regla práctica, dos o más. En algunos casos basta uno, y cuando decides que no hace falta, debes dejar registrado el razonamiento.

¿Quién tiene que hacer la EIPD?

El responsable del tratamiento, es decir, la organización que decide los fines y los medios. Si hay un delegado de protección de datos, el responsable debe pedirle asesoramiento (art. 35.2). Los encargados y los proveedores de IA aportan la información.

¿Qué relación tiene con la evaluación de impacto en derechos fundamentales del AI Act?

El artículo 27 del AI Act exige una evaluación de impacto en derechos fundamentales a ciertos responsables del despliegue de sistemas de alto riesgo. Cuando parte de su contenido ya está cubierto por una EIPD del artículo 35 del RGPD, la evaluación de derechos fundamentales la complementa en lugar de repetirla.

¿Cuándo hay que consultar a la autoridad antes de empezar?

Según el artículo 36 del RGPD, cuando la EIPD concluye que el riesgo residual sigue siendo alto tras aplicar tus medidas de mitigación. Entonces consultas a la autoridad de control (la AEPD en España) antes de iniciar el tratamiento.