Model Routing 도입을 통한 에이전트 토큰 비용 66% 절감 및 효율화

Context

단일 고성능 모델을 기본 설정으로 사용하는 에이전트 아키텍처의 비효율성 분석. Heartbeat check, Cron ping 등 저부하 반복 작업에 Frontier Model을 일괄 적용하여 발생하는 불필요한 비용 지출과 리소스 낭비가 주요 병목 지점으로 식별됨.

Technical Solution

• 작업 복잡도에 기반한 Model Routing 정책 수립을 통한 비용 최적화
• Heartbeat, Classification, Tagging 등 단순 반복 작업에 GPT-5.4-nano 또는 GLM-5.1 등 경량 모델 배치
• 고도의 추론이 필요한 Hard Reasoning 및 High-risk Decision 단계에만 Claude Sonnet 4.6 등 프리미엄 모델 할당
• OpenClaw의 Primary-Fallback 구조를 활용하여 기본 모델 실패 시 단계적 대체 모델을 호출하는 Failover 체인 설계
• 메모리 유지보수 및 파일 업데이트 작업을 단순 판단 로직으로 분리하여 소형 모델 처리 프로세스로 전환
• API 호출 빈도가 높은 백그라운드 잡의 특성을 고려하여 Token-based 과금 체계를 Flat-cost API 구조로 전환 검토