Gouvernance des agents IA : droits, validations et journal d’audit

Définir les limites avant les outils

« Peut utiliser le CRM » ne précise ni les dossiers lisibles, ni les champs modifiables, ni les dépenses possibles. Une autorisation utile nomme l’acteur, la ressource, l’opération, le périmètre et l’expiration.

Un agent peut lire des montants agrégés sans exporter des clients ou envoyer des messages. Toute prise de contact passe par une demande évaluée par le système propriétaire de l’action.

Du prompt à l’action contrôlée

Séparez raisonnement, autorisation et exécution. L’agent reçoit le contexte nécessaire, produit une proposition structurée et ne reçoit pas d’accès direct en écriture à la production.

• Identifier l’agent et la personne ou le service représenté.
• Valider la proposition et les définitions des mesures.
• Contrôler périmètre, sensibilité, budget, fréquence et doublons.
• Faire valider par une personne si le risque l’exige.
• Exécuter avec une clé d’idempotence et enregistrer le résultat.

Ce que doit expliquer l’audit

Conservez l’acteur, l’identité déléguée, l’outil, la version des règles, les références aux données, la proposition, la décision, le valideur, l’heure, l’exécution et le résultat. Les données sensibles peuvent être masquées sans rompre la chaîne de preuve.

Une action refusée compte aussi : demande hors périmètre, échec de qualité des données et refus humain appellent des corrections différentes.

Exemple : agent de recouvrement

Un agent propose des rappels pour 40 comptes en retard. Le service de règles écarte les litiges, vérifie les préférences et soumet cinq comptes importants à validation. Seul le groupe approuvé atteint le service d’envoi ; le journal explique les envois et les exclusions.

Les règles restent dans le système métier même si le modèle de l’agent change.