35B MoE 추론 모델과 5B 코드 최적화 모델 기반의 독자적 AI 스택 구축

Context

OpenAI 의존도를 낮추고 지식 재산권 분쟁을 방지하기 위한 자체 Frontier AI 스택 확보 필요성 증대. 기존 클라우드 벤더 락인(Vendor Lock-in) 문제를 해결하고 다양한 추론 인프라 환경에서 동작하는 모델 생태계 구축을 목표로 함.

Technical Solution

• Sparse Mixture of Experts(MoE) 아키텍처 설계를 통한 1T 파라미터 규모의 효율적 추론 구현
• 상업적 라이선스를 확보한 Clean Data 기반의 Zero-distillation 학습으로 모델 신뢰성 및 법적 리스크 제거
• 단순 자동완성에는 최소 리소스를, 복잡한 리팩토링에는 다단계 추론을 할당하는 Adaptive Thinking 로직 적용
• GitHub Copilot 프로덕션 환경의 실제 개발자 상호작용 패턴을 학습 데이터로 사용하여 벤치마크 오버피팅 방지
• Azure 외 Fireworks AI, Baseten, OpenRouter 등 멀티 클라우드 라우팅을 지원하는 배포 전략 채택

Impact

• MAI-Thinking-1: AIME 2025 기준 97.0%, AIME 2026 기준 94.5%의 고성능 수학 추론 달성
• MAI-Code-1-Flash: SWE-Bench Pro에서 Claude Haiku 4.5 대비 16%p 높은 정확도 기록 및 토큰 소모량 60% 절감
• Context Window: 256,000 토큰 확보를 통한 약 600페이지 분량의 문서 및 대규모 코드베이스 처리 가능

Key Takeaway

학습 데이터의 품질(Clean Data)과 프로덕션 워크플로우(Copilot-Native) 일치가 모델의 실질적 성능을 결정하는 핵심 설계 원칙임