AI 에이전트 거버넌스: 권한, 승인, 감사 기록

도구를 연결하기 전에 경계를 정하세요

‘CRM을 사용할 수 있다’는 권한은 읽을 기록, 수정할 필드, 지출 한도를 알려주지 않습니다. 실효성 있는 권한에는 주체, 자원, 작업, 범위, 만료일이 들어갑니다.

에이전트가 집계된 청구 정보는 읽더라도 고객 정보를 내보내거나 메시지를 보내지 못하게 할 수 있습니다. 연락이 필요하면 실행을 소유한 시스템에 요청합니다.

프롬프트에서 통제된 행동까지

추론, 권한 부여, 실행을 분리하세요. 에이전트는 필요한 맥락만 받고 구조화된 제안을 반환하며 운영 환경에 대한 직접 쓰기 권한은 받지 않습니다.

• 에이전트와 대리하는 사람 또는 서비스를 식별합니다.
• 제안과 지표 정의를 검증합니다.
• 범위, 민감도, 예산, 호출 제한, 중복을 확인합니다.
• 영향이 크면 사람의 승인을 받습니다.
• 멱등성 키로 실행하고 결과를 기록합니다.

감사 기록이 답해야 할 질문

행위자, 위임된 신원, 도구, 정책 버전, 데이터 참조, 제안, 결정, 승인자, 시간, 실행, 성과를 기록합니다. 민감한 값은 가리더라도 증거의 연결은 유지해야 합니다.

거부된 요청도 기록합니다. 범위 밖 요청, 데이터 품질 실패, 사람의 거절은 각각 다른 원인과 해결책을 가집니다.

예시: 수금 에이전트

에이전트가 연체 계정 40곳에 알림을 제안합니다. 정책은 분쟁 계정을 제외하고 연락 설정을 확인하며 고액 계정 5곳은 별도 승인을 요구합니다. 승인된 대상만 발송하고 보류 이유도 기록합니다.

모델이 바뀌어도 권한과 근거는 비즈니스 시스템에 남습니다.