Gobernanza de agentes de IA: qué controlar cuando la IA actúa por sí sola

Por qué un agente es distinto

Un asistente que redacta un texto es como un redactor: alguien revisa lo que escribe. Un agente es como un empleado con acceso a tus sistemas: si se equivoca, actúa. Por eso necesita controles de empleado: permisos, límites y supervisión.

Seis controles básicos

1. Inventario: qué agentes existen, quién es su responsable y qué hacen. No puedes controlar lo que no conoces (ojo con los agentes creados por equipos por su cuenta).
2. Mínimo privilegio: solo los permisos que necesita, solo en los sistemas necesarios.
3. Aprobación humana para acciones sensibles o irreversibles (pagos, borrados, comunicaciones externas).
4. Registros: qué hizo, cuándo y por qué, para poder auditar.
5. Límites claros: qué tiene prohibido hacer y qué importe o volumen máximo puede manejar.
6. Escalado y parada: a quién se avisa si algo falla y cómo se detiene al agente rápidamente.

Cómo encaja con el AI Act

El AI Act no define una categoría de agente: lo que importa es el uso. Si un agente interviene en un ámbito de alto riesgo, aplican las obligaciones de ese ámbito, entre ellas la supervisión humana efectiva del artículo 14. Si interactúa con personas, pueden aplicar las obligaciones de transparencia del artículo 50.

Errores habituales

• Dar acceso amplio «para que funcione».
• Aprobación de pura forma: la persona aprueba sin poder entender qué aprueba.
• Sin registro: no se puede reconstruir qué pasó.

Empieza por aquí

1. Haz el inventario de agentes y herramientas con IA en uso.
2. Asigna un responsable por agente.
3. Revisa permisos y acciones que requieren aprobación.
4. Activa los registros y define cómo pararlos.

Preguntas frecuentes

¿Qué es un agente de IA?

Un sistema que planifica y ejecuta acciones con cierta autonomía.

¿Qué controles mínimos necesito?

Inventario, permisos limitados, aprobación humana, registros y parada.

Contenido informativo, no asesoramiento jurídico.