100x — V8 isolate 기반 샌드박싱이 컨테이너 대비 부팅 100배 빠르게 AI 에이전트 코드 실행

Context

AI 에이전트가 생성한 코드를 실행할 때 대부분 Linux 컨테이너를 사용한다. 컨테이너는 성능 오버헤드가 크며, 일회성 실행 후 폐기하는 구조에 비효율적이다.

Technical Solution

• Cloudflare Worker → V8 isolate를 통해 런타임에 동적으로 코드 실행
• TypeScript interface → API 정의로 OpenAPI YAML 대비 15줄 vs 60줄로 효율적 표현
• Cap'n Web RPC bridge → 샌드박스와 호스트 API 간 보안 경계 투명 연결
• load() 함수 → 일회성 에이전트 코드 실행에 최적화
• get() 함수 → Worker ID 기반 캐싱으로 장시간 애플리케이션 워크로드 지원

Impact

V8 isolate는 부팅 100배 빠르고 메모리 10-100배 효율적이다. TypeScript interface 사용 시 토큰 사용량이 81% 감소한다.

Key Takeaway

에이전트 코드는 요청만큼 일시적이어야 하며, 컨테이너 재사용 유혹을 제거하는 것이 설계 원칙이다.