Gobernanza de agentes de IA: qué controlar cuando la IA actúa por sí sola
Un agente de IA no solo responde: toma decisiones y ejecuta acciones (enviar un correo, modificar un registro, comprar) usando herramientas. Eso multiplica el valor y también el riesgo. Aquí tienes un conjunto sencillo de controles para gobernarlos.

Por qué un agente es distinto
Un asistente que redacta un texto es como un redactor: alguien revisa lo que escribe. Un agente es como un empleado con acceso a tus sistemas: si se equivoca, actúa. Por eso necesita controles de empleado: permisos, límites y supervisión.
Seis controles básicos
- Inventario: qué agentes existen, quién es su responsable y qué hacen. No puedes controlar lo que no conoces (especialmente los agentes creados por equipos por su cuenta).
- Mínimo privilegio: solo los permisos que necesita, solo en los sistemas necesarios.
- Aprobación humana para acciones sensibles o irreversibles (pagos, borrados, comunicaciones externas).
- Registros: qué hizo, cuándo y por qué, para poder auditar.
- Límites claros: qué tiene prohibido hacer y qué importe o volumen máximo puede manejar.
- Escalado y parada: a quién se avisa si algo falla y cómo se detiene al agente rápidamente.
Cómo encaja con el AI Act
El AI Act no define una categoría de agente: lo que importa es el uso. Si un agente interviene en un ámbito de alto riesgo, aplican las obligaciones de ese ámbito, entre ellas la supervisión humana efectiva del artículo 14. Si interactúa con personas, pueden aplicar las obligaciones de transparencia del artículo 50.
Dos casos prácticos
Un agente que responde a clientes y gestiona devoluciones
Puede consultar el pedido y redactar la respuesta, pero no debería aprobar reembolsos por encima de un importe fijado (por ejemplo, 100 €) sin que una persona los valide. Se registra cada decisión y, si el cliente reclama, se puede reconstruir qué hizo el agente y por qué.
Un agente interno que prepara informes con datos de varios sistemas
Solo debe poder leer los sistemas que necesita, nunca escribir en ellos, y no puede enviar el informe fuera de la empresa sin aprobación. Si empieza a pedir acceso a datos nuevos, el responsable del agente revisa el cambio antes de concederlo.
Errores habituales
- Dar acceso amplio «para que funcione».
- Aprobación de pura forma: la persona aprueba sin poder entender qué aprueba.
- Sin registro: no se puede reconstruir qué pasó.
Empieza por aquí
- Haz el inventario de agentes y herramientas con IA en uso.
- Asigna un responsable por agente.
- Revisa permisos y acciones que requieren aprobación.
- Activa los registros y define cómo pararlos.
Plantillas para cada paso
Si quieres ir más rápido, estas plantillas siguen el mismo orden:
- Inventario y clasificación de riesgo de agentes
- Política de autorización y límites
- Procedimiento de escalado humano
- RACI de responsabilidad multiagente
- Checklist de rastro de auditoría
Preguntas frecuentes
¿Qué es un agente de IA?
Un sistema que planifica y ejecuta acciones con cierta autonomía.
¿Qué controles mínimos necesito?
Inventario, permisos limitados, aprobación humana, registros y parada.
Contenido informativo, no asesoramiento jurídico.
¿En qué punto está tu Data Governance?
Diagnóstico gratis con tus gaps prioritarios y las plantillas del camino de Data Governance.