모델 성능보다 Workflow Surface 점유와 Routing 최적화가 AI Agent 승부처

Context

단순 LLM 벤치마크 중심의 접근 방식이 실제 프로덕션 환경의 비용 및 신뢰성 문제로 인해 한계에 직면한 상황. 모델 자체의 지능보다 데이터가 발생하는 접점인 Workflow Surface의 제어권 확보가 시스템의 해자로 작용하는 구조적 특성 분석.

Technical Solution

• 모델을 Commodity로 취급하여 작업 성격에 따라 교체 가능한 모듈형 구조 설계
• 단순 단일 모델 호출 방식에서 탈피하여 작업 복잡도에 따라 모델을 분기하는 Agent Routing 레이어 도입
• Heartbeat 체크 및 Cron 작업에는 경량 모델(GLM-5.1 등)을 배치하고 고난도 추론에만 GPT-5/Claude-Sonnet을 할당하는 비용 최적화 전략 적용
• Telegram을 Control Plane으로 활용하고 프로젝트별 Topic을 생성하여 개별 세션의 Context를 격리하는 오케스트레이션 구조 구현
• Token 기반 과금 체계의 리스크를 제거하기 위해 Flat Monthly Pricing 기반의 Standard Compute 인프라 검토
• Browser Automation 실패 시의 Retry 로직과 Persistent Memory를 통한 상태 유지 메커니즘 구축