Governance für KI-Agenten: Berechtigungen, Freigaben und Prüfpfade

Grenzen vor Werkzeugen festlegen

„Darf das CRM nutzen“ sagt nichts über lesbare Datensätze, änderbare Felder oder zulässige Ausgaben. Eine brauchbare Berechtigung benennt Akteur, Ressource, Operation, Geltungsbereich und Ablaufdatum.

Ein Agent darf aggregierte Rechnungsdaten lesen, ohne Kundendaten zu exportieren oder Nachrichten zu senden. Für eine Kontaktaufnahme stellt er einen Antrag an das zuständige System.

Vom Prompt zur kontrollierten Aktion

Trennen Sie Denken, Genehmigen und Ausführen. Der Agent erhält nur benötigten Kontext, liefert einen strukturierten Vorschlag und niemals direkte Schreibrechte in der Produktion.

• Agent und vertretene Person oder Dienst identifizieren.
• Vorschlag und Kennzahlendefinitionen validieren.
• Geltungsbereich, Sensibilität, Budget, Limits und Dubletten prüfen.
• Bei Bedarf eine Person mit der Freigabe betrauen.
• Mit Idempotenzschlüssel ausführen und Ergebnis protokollieren.

Was ein Prüfpfad beantworten muss

Speichern Sie Akteur, delegierte Identität, Werkzeug, Regelversion, Datenreferenzen, Vorschlag, Entscheidung, genehmigende Person, Zeitpunkt, Ausführung und Ergebnis. Sensible Werte können geschwärzt werden, ohne die Beweiskette zu verlieren.

Auch eine Ablehnung gehört dazu: Ein Antrag außerhalb des Bereichs, schlechte Daten und eine menschliche Ablehnung sind unterschiedliche Ursachen.

Beispiel: Mahnagent

Ein Agent schlägt Erinnerungen für 40 überfällige Konten vor. Die Regeln schließen Streitfälle aus, prüfen Kontaktwünsche und verlangen für fünf große Konten eine Freigabe. Nur die genehmigte Gruppe wird angeschrieben; das Protokoll erklärt Versand und Zurückhaltung.

Die Governance bleibt im Geschäftssystem bestehen, auch wenn das Agentenmodell gewechselt wird.