Containment 기반 Blast Radius 제한을 통한 AI Agent 보안 설계

Context

AI Agent의 권한 확대에 따라 발생 가능한 시스템 파괴 범위(Blast Radius)의 기하급수적 증가. Human-in-the-loop 방식의 승인 절차는 사용자의 승인 피로도로 인해 실질적인 통제력을 상실하는 한계 노출.

Technical Solution

• 확률적 방어의 한계를 보완하기 위해 Sandbox, VM, Egress Control을 활용한 강제적 접근 경계(Hard Boundary) 설정
• 사용자 숙련도에 따른 Isolation 강도 차등 적용으로 전문가에게는 마찰을 줄이고 비전문가에게는 보안성을 강화하는 전략 채택
• 모델 기반 Classifier를 도입한 Claude Code auto mode 구현을 통해 안전한 명령어의 자동 승인 및 마찰 최소화
• 자체 구현 컴포넌트보다 검증된 Hypervisor, Syscall Filter, Container Runtime 등 성숙한 인프라 프리미티브 우선 활용
• System Prompt 및 Classifier를 통한 모델 행동 제어와 인프라 레벨의 Containment를 결합한 Defense-in-depth 계층 설계