Active CPU Pricing 및 Snapshot 도입으로 Agent 실행 비용 최적화 및 복구 시간 93% 단축

Agents have their own computers with Sandboxes GA

Mike Nomitch2026년 4월 13일10분advanced

AI 요약

Context

AI Agent의 코드 실행 및 개발 환경 제공을 위해 격리된 환경이 필수적이나, VM 기반의 높은 유휴 비용과 느린 상태 복구 속도가 병목으로 작용함. 기존 Container 솔루션은 Burstiness 대응과 보안 수준의 Credential 관리 구현에 한계가 있음.

Technical Solution

Cloudflare Containers 기반의 on-demand Sandbox 구조를 통한 유휴 자원 비용 제거 및 자동 Wake-up 메커니즘 구현
Programmable Egress Proxy를 네트워크 레이어에 배치하여 Agent에게 raw credential을 노출하지 않는 Secure Credential Injection 설계
WebSocket 기반의 PTY support를 통한 실시간 스트리밍 터미널 환경 제공으로 Agent-Human 간 인터랙티브 피드백 루프 구축
R2 스토리지 기반의 Backup/Restore 및 VM-level Snapshot 도입을 통한 상태 유지형(Stateful) 세션 복구 최적화
Active CPU Pricing 모델 적용을 통한 LLM 응답 대기 시간 동안의 CPU 과금 제외 구조 설계
Background Process 및 Live Preview URL 제공을 통한 개발 서버의 실시간 검증 환경 구축

실천 포인트

1. Agent 전용 환경 설계 시 VM 전체 할당보다 Active CPU 기반 과금 체계 검토

2. API Key 등 민감 정보는 Agent 애플리케이션이 아닌 네트워크 프록시 레이어에서 주입하는 패턴 고려

3. 상태 복구 속도 향상을 위해 파일 시스템 백업과 VM Snapshot의 성능 차이를 분석하여 적절한 복구 전략 채택

태그

#Scale-to-Zero #Egress Proxy #Sandbox #Containerization #Stateful Session

원문 읽기