피드로 돌아가기
InfoQInfrastructure
원문 읽기
1초 미만 기동의 microVM 기반 AI 에이전트 격리 샌드박스 구현
Run Untrusted AI Agent Code Safely with Azure Container Apps Sandboxes
AI 요약
Context
LLM 생성 코드의 직접 실행으로 인한 Host 환경의 API Key 탈취 및 Prompt Injection 보안 위협 증대. 기존의 seccomp 프로필 기반 컨테이너나 Kata Containers 기반 K8s 클러스터 운영에 따른 과도한 Operational Investment 발생.
Technical Solution
- MicroVM 기반 하드웨어 격리를 통한 Host 및 타 샌드박스와의 완전한 물리적 분리 구조 설계
- Pre-warmed Pool 활용 및 OCI Image 기반 배포를 통한 1초 미만의 빠른 Cold Start 실현
- Snapshot-based Suspend/Resume 기능을 통한 메모리 및 디스크 상태 유지와 Scale-to-Zero 비용 최적화
- Proxy 레이어 기반의 Default Deny 네트워크 정책 적용으로 외부 호스트 접근을 명시적으로 제어하는 Egress Filter 구현
- Entra Managed Identity 통합을 통한 Image 내 자격 증명 배제 및 보안 인증 체계 구축
- AST Scanning 및 Tool Allowlist를 결합한 Agent Governance Toolkit 기반의 다층 방어 체계 적용
실천 포인트
- LLM 생성 코드 실행 시 In-process 실행을 지양하고 하드웨어 격리 환경(microVM) 검토 - 보안 강화를 위해 네트워크 Egress 정책을 Default Deny로 설정하고 Proxy 기반 화이트리스트 운영 - 잦은 초기화 비용을 줄이기 위해 메모리 상태를 저장하는 Snapshot-based Resume 구조 고려 - 이미지 내 Secret 포함을 방지하기 위해 Managed Identity 기반의 인증 방식 도입