피드로 돌아가기
InfoQInfrastructure
원문 읽기
Container 기반 Browser Run 재설계로 동시성 4배 향상 및 AI 에이전트 풀스택 구축
Cloudflare Completes Its Agent Infrastructure Stack with Browser Run Rebuild and Six-Layer Platform
AI 요약
Context
기존 Browser Run이 Browser Isolation(BISO)과 인프라를 공유하며 발생한 트래픽 패턴 충돌 문제 분석. 인간의 긴 세션과 AI 에이전트의 짧고 폭발적인 요청 패턴이 상충함에 따라 시스템 가용성 한계 도달.
Technical Solution
- 전용 Containers 도입 및 지역별 Pre-warmed 브라우저 풀 구성을 통한 리소스 격리 및 응답 속도 최적화
- Workers KV의 Eventual Consistency로 인한 Race Condition 해결을 위해 D1과 Queues 기반의 Transactional Assignment 구조로 전환
- 위치당 최대 500,000개 컨테이너 처리를 위한 Batch Write 메커니즘 도입으로 상태 관리 효율성 확보
- Multi-step WebSocket Choreography를 제거하고 컨테이너 내부에서 실행되는 단일 HTTP 요청 방식으로 Quick Action 로직 단순화
- V8 Isolate 기반 Dynamic Workers와 Full Linux Sandboxes의 계층적 Compute 구조 설계를 통한 작업 부하별 최적 실행 환경 제공
- Dual-pass Ingestion Pipeline과 Reciprocal Rank Fusion 기반의 5채널 병렬 검색을 통한 Agent Memory 아키텍처 구현
실천 포인트
- 워크로드의 트래픽 패턴을 분석하여 공유 인프라의 Resource Contention 발생 여부 확인 - 분산 환경에서 Race Condition 발생 시 Eventual Consistency 모델을 Transactional 모델로 전환 검토 - 오버헤드가 큰 통신 프로토콜(WebSocket 등)을 단일 요청 기반의 단순 구조로 최적화 가능성 분석