AIエージェントのガバナンス:権限、承認、監査履歴
エージェントは有用な行動を提案できます。しかし許可の判断は業務システムが担います。
中心となる考え方
エージェントを申請者として扱い、決定的な規則と責任ある人が重要な行動を承認します。
ツールを接続する前に境界を決める
「CRMを使える」という許可では、閲覧できる記録、変更できる項目、支出可能額が不明です。許可には主体、対象、操作、範囲、有効期限が必要です。
エージェントは集計した請求額を読めても、顧客データの持ち出しやメッセージ送信はできないようにできます。連絡する場合は、実行を管理するシステムに申請します。
指示から実行までを統制する
推論、認可、実行を別の段階にします。エージェントには必要な文脈だけを渡し、構造化した提案を受け取り、本番環境への直接の書き込み権限は渡しません。
- エージェントと代理対象の人またはサービスを特定する。
- 提案と参照指標の定義を検証する。
- 範囲、機密性、予算、頻度、重複を確認する。
- 影響に応じて人の承認を求める。
- 冪等キーで実行し、結果と失敗を記録する。
監査記録が答えるべきこと
行為者、委任されたID、ツール、ポリシーの版、データ参照、提案、判断、承認者、時刻、実行、成果を残します。機密値は隠しても根拠のつながりは維持します。
却下も記録します。範囲外の依頼、データ品質の失敗、人による否認は異なる原因であり、対応も異なります。
例:回収エージェント
40件の延滞口座への通知案に対し、規則は係争中の口座を除き、連絡設定を確認し、高額な5件に承認を求めます。承認済みの対象だけが送信され、送信と保留の理由が記録されます。
モデルが変わっても、権限と根拠は業務システム側に残ります。
良い意思決定には良い根拠が必要です。
記事一覧 統制されたAIと測定可能な事業成果について、さらにご覧ください。