특수 목적 Small Model 도입을 통한 리소스 최적화 및 성능 극대화

Context

범용 Large Language Model(LLM)을 모든 과업에 적용하는 Cloud 중심 아키텍처의 자원 낭비 발생. 데이터 학습 규모만 확장하는 전략으로 인한 효율성 저하 및 연산 비용 증가라는 한계점 노출.

Technical Solution

• High-quality 데이터 기반의 Task-specific Fine-tuning을 통한 모델 경량화 설계
• MoE(Mixture of Experts) 구조 채택으로 전체 파라미터 대비 토큰당 Active Compute 최소화
• 범용 모델의 Generalization 능력 대신 특정 도메인에 최적화된 Focused Model 구조 지향
• Cloud 의존성을 탈피하여 Consumer GPU 수준에서 구동 가능한 On-device 배포 전략 수립
• MCP(Model Context Protocol) 단순 결합이 아닌 AI-native 기반의 소프트웨어 아키텍처 재설계
• 과업의 복잡도에 따라 Large Model과 Small Model을 분리 배치하는 계층적 추론 구조 적용