모델 라우팅 최적화를 통한 비용 절감 및 요청 처리량 36배 확대

Context

OpenCode Go의 예산 기반 사용 제한(5시간당 $12) 환경에서 단일 프리미엄 모델 사용 시 발생하는 빠른 비용 소진 문제 분석. 특히 Oh My OpenAgent의 Multi-agent 구조로 인한 요청 횟수 급증이 시스템 병목으로 작용함.

Technical Solution

• 태스크 복잡도에 따른 모델 차등 배정 기반의 Model Routing 전략 수립
• Planning, Orchestration, Execution의 3계층 아키텍처를 통한 역할 분리 설계
• 고성능·고비용 모델(Claude Opus 4.7) 대신 가성비 모델(DeepSeek V4 Flash)을 Librarian, Explore 등 단순 작업에 배치하여 Resource 효율화
• 복잡한 추론이 필요한 Sisyphus 에이전트에 Kimi K2.6 및 32K Extended Thinking Budget 할당으로 품질 유지
• 예산 임계치($10) 도달 시 경고를 발생시키는 budgetAlert 로직을 통한 동적 모델 에스컬레이션 제어
• Parallel Workstream 처리를 위한 Team Mode 활성화로 총 61개의 Hook 기반 병렬 처리 구조 확보