Governação de agentes de IA: permissões, aprovações e auditoria

Definir limites antes de ligar ferramentas

«Pode usar o CRM» não especifica registos, campos nem dinheiro que pode comprometer. Uma permissão útil identifica ator, recurso, operação, âmbito e validade.

Um agente pode ler montantes agregados sem exportar clientes ou enviar mensagens. Para contactar um grupo, apresenta um pedido avaliado pelo sistema responsável pela ação.

Do pedido à ação controlada

Separe raciocínio, autorização e execução. O agente recebe apenas o contexto necessário, devolve uma proposta estruturada e nunca recebe acesso direto de escrita à produção.

• Identificar agente e pessoa ou serviço representado.
• Validar proposta e definições das métricas.
• Verificar âmbito, sensibilidade, orçamento, frequência e duplicados.
• Pedir aprovação humana se a política ou o impacto o exigirem.
• Executar com chave de idempotência e registar o resultado.

O que a auditoria deve explicar

Registe ator, identidade delegada, ferramenta, versão da política, referências aos dados, proposta, decisão, aprovador, hora, execução e resultado. Dados sensíveis podem ser ocultados sem quebrar a cadeia de provas.

Uma recusa também é informação: pedido fora do âmbito, falha na qualidade dos dados e decisão humana exigem correções distintas.

Exemplo: agente de cobranças

Um agente propõe avisos para 40 contas em atraso. A política exclui litígios, verifica preferências e exige aprovação para cinco contas de maior valor. Só o grupo aprovado chega ao envio; o registo explica envios e exclusões.

A governação permanece no sistema empresarial mesmo quando o modelo do agente muda.