AI 에이전트가 직접 수행하는 무단 행동이 아니라, 인간이 에이전트의 조언 때문에 수행하는 무단 행동을 유발하는 유도 엣지 문제를 거버넌스 핵심으로 제시

Context

기존 에이전트 거버넌스는 행위 로그 기반 감사로 인가 범위와 실제 상태 변경 간의 차이를 탐지하지 못한다. 다수 독립 전략이 각각 위험 한도 내 동작하면서도 집합적으로 초과 노출을 만드는 양자 펀드-analogy가 이 문제를 정확히 설명한다.

Technical Solution

• State delta 단위 추적으로 리소스 접촉보다 상태 변경 영향력 측정
• Capability graph로 선언된 권한과 실제 수행된 접근 경로의 차이 감지
• 직접 엣지는 사용량 클록으로 자연 감쇠, 유도 엣지는 활성 재조정 필요
• 임계값 재보정 권한을 에이전트 실행 컨텍스트에서 완전히 분리
• 모든 유도 엣지를 비가역으로 처리하고 과도한 정산로 학습 데이터 생성

Impact

정량적 지표 없음

Key Takeaway

체크포인트를 직접 위반 탐지의 기반 계층으로 구현하고, capability graph를 유도 드리프트 감지를 위한 감사 계층으로 계층화하는 것이 완전한 거버넌스 아키텍처다.