모델 믹스 전략을 통한 API 비용 99% 절감 및 코드 효율 최적화

Context

단일 프리미엄 모델 의존으로 인한 과도한 API 비용 발생과 낮은 Cost-Performance 효율성 문제 직면. 단순 모델 성능 지표가 아닌 실제 개발 태스크별 가성비 기반의 모델 선택 기준 필요성 대두.

Technical Solution

• Task Complexity에 따른 모델 계층화(Layering) 전략 도입
• 단순 구현 및 일반 쿼리는 Low-cost 모델(DeepSeek V4 Flash, $0.25/M)에 할당하여 비용 최적화
• 도메인 특화 코딩 태스크는 Code-specialized 모델(Qwen3-Coder-30B, $0.35/M)로 정확도 확보
• 고난도 알고리즘 및 아키텍처 설계는 Reasoning 모델(DeepSeek-R1, $2.50/M)에 배치하여 품질 보장
• 단일 API Endpoint(Global-API)를 통한 모델 스위칭 인터페이스 단일화로 통합 관리 구조 설계
• 정량적 벤치마크 기반의 모델별 Task Score(Function Implementation, Bug Fix) 매핑을 통한 라우팅 로직 근거 마련