피드로 돌아가기
InfoQInfoQ
Infrastructure

GKE 기반 1M 칩 Hypercluster 및 gVisor 기반 Agent Sandbox 구현

Google Announces GKE Agent Sandbox and Hypercluster at Next '26, Positioning Kubernetes as AI Agent

Steef-Jan Wiggers2026년 5월 7일3advanced

Context

AI Agent 워크로드의 급증으로 인한 untrusted code 실행의 보안 격리 필요성 증대. 거대 모델 학습을 위해 수백 개의 클러스터로 파편화된 인프라의 운영 오버헤드 및 제어 평면의 한계 직면.

Technical Solution

  • gVisor 기반의 kernel-level isolation을 적용한 Agent Sandbox 설계로 보안성 확보
  • Sandbox, SandboxTemplate, SandboxClaim이라는 Kubernetes Primitive를 도입하여 런타임 추상화 및 트랜잭션 기반 환경 요청 구조 구현
  • Warm pool 기반의 pre-provisioned pod 전략을 통한 Cold start latency 최소화
  • 단일 GKE Control Plane으로 최대 1M 칩과 256,000개 노드를 관리하는 Hypercluster 아키텍처 채택
  • Titanium Intelligence Enclave를 통한 hardware-attested 보안 모델로 관리자 접근을 원천 차단한 모델 가중치 보호
  • llm-d 기반의 ML-driven routing을 적용한 Predictive Latency Boost로 실시간 capacity-aware scheduling 구현

1. AI Agent 실행 환경 설계 시 컨테이너 수준을 넘어 gVisor 등 커널 격리 기술 검토

2. 대규모 GPU 클러스터 운영 시 Blast radius 제어와 단일 제어 평면의 트레이드오프 분석

3. LLM 추론 최적화를 위해 정적 휴리스틱 대신 실시간 Capacity 기반의 지능형 라우팅 도입

원문 읽기