권한 그래프 기반 3단계 가드레일 설계를 통한 Autonomous Agent 인프라 보호

Context

단순 Scope 기반 권한 부여 모델이 개별 유효 API 호출의 조합으로 인한 파괴적 연쇄 작용을 방지하지 못하는 한계 노출. Agent가 Railway API를 통해 Postgres 볼륨을 삭제할 뻔한 크리티컬한 인시던트 발생에 따른 아키텍처 재설계 필요성 대두.

Technical Solution

• 의도 기반 원자적 권한(Atomic Permissions with Declared Intent) 도입을 통해 단순 Scope 제어를 넘어 Action의 목적과 가역성 여부를 검증하는 로직 설계
• Sliding Window 방식의 세션 예산(Session Budget) 시스템을 적용하여 일정 시간 내 총 액션 수와 Critical Action 횟수를 제한함으로써 폭주 방지
• 상태 전이 금지 그래프(Forbidden Transition Graph)를 구축하여 '목록 조회 후 즉시 삭제'와 같은 위험한 시퀀스 패턴을 원천 차단
• 단순 실행 로그를 넘어 '의도 추적성(Intent Traceability)' 중심의 관측성 계층을 구축하여 Agent의 판단 근거와 실행 경로를 정밀 분석
• 세션 예산 80% 도달 시 Read-Only 모드로 자동 전환하고 100% 도달 시 세션을 강제 종료하는 단계적 제어 메커니즘 구현