DeepSeek V4 Flash 기반 비용 최적화 및 계층적 모델 라우팅 전략

Context

다양한 AI 코딩 모델의 성능 및 가격 변동성으로 인한 선택 비용 증가 상황 분석. 단순 고성능 모델 의존 시 발생하는 과도한 Token 비용 지출과 저가형 모델의 코드 품질 저하라는 상충 관계 존재.

Technical Solution

• 비용 대비 성능 지표인 Value Score(Score/Price)를 도입하여 모델별 효율성 정량화
• 단순 작업부터 복잡한 알고리즘까지 5단계의 Task 기반 벤치마크를 통한 모델별 특성 식별
• 저가형 모델(DeepSeek V4 Flash)을 기본 Daily Driver로 설정하여 기초 코드 생성
• 문제 해결 실패 시 Reasoning 모델(DeepSeek-R1)로 에스컬레이션하는 계층적 요청 구조 설계
• Ga-Standard와 같은 AI Router를 통한 요청 자동 분배 구조의 단순성 및 변동성 분석
• Task 복잡도에 따라 Model Name만 교체하는 추상화된 인터페이스 기반의 구현 방식 채택