Gobierno de agentes de IA: permisos, aprobaciones y auditoría

Define los límites antes de conectar herramientas

«Puede usar el CRM» no es un permiso suficiente: no indica qué registros puede leer, qué campos puede cambiar ni cuánto dinero puede comprometer. Un permiso útil identifica actor, recurso, operación, alcance y caducidad.

Un agente puede leer importes agregados de facturas en un espacio de trabajo sin poder exportar clientes ni enviar mensajes. Para contactar a un grupo, presenta una solicitud que evalúa el sistema propietario de la acción.

Del prompt a la acción con control

Separa razonamiento, autorización y ejecución. El agente recibe solo el contexto necesario, devuelve una propuesta estructurada y no obtiene credenciales directas de escritura en producción.

• Identificar al agente y a la persona o servicio que representa.
• Validar la propuesta y las definiciones de métricas utilizadas.
• Comprobar alcance, sensibilidad, presupuesto, límites y duplicados.
• Pedir aprobación humana cuando la política o el impacto lo exijan.
• Ejecutar con clave de idempotencia y registrar éxito o fallo.

Qué debe explicar una auditoría

Registra actor, identidad delegada, herramienta, versión de la política, referencias a datos, propuesta, decisión, aprobador, fecha, ejecución y vínculo al resultado. Los valores sensibles pueden ocultarse sin romper la cadena de pruebas.

Una acción rechazada también importa: distingue una solicitud fuera de alcance, un fallo de calidad de datos y una negativa humana. Cada causa requiere una respuesta distinta.

Ejemplo: agente de cobros

Un agente propone recordar el pago a 40 cuentas vencidas. La política excluye disputas, comprueba preferencias de contacto y exige aprobación para cinco cuentas de alto valor. Solo el subconjunto aprobado llega al servicio de envío; el registro conserva qué se envió y qué se retuvo, con sus motivos.

Este control sigue siendo válido aunque cambie el modelo del agente: permisos y pruebas pertenecen al sistema de negocio.