198B Sparse MoE 기반 Step 3.7 Flash: 추론 비용 89% 절감 및 성능 안정화
Step 3.7 Flash is a drop-in — except for one endpoint detail
MoE 구조를 통한 70B급 성능의 14B급 연산 비용 달성
Mixture of Experts (MoE): what it actually does under the hood, and when it pays off
12.5% 전문가 서브셋만으로 풀 모델 성능을 구현한 EMO MoE 아키텍처
EMO: Pretraining mixture of experts for emergent modularity
llama.cpp의 310B Sparse MoE 지원 및 Qwen3 기반 Local Agent 생태계 확장
llama.cpp supports Sparse MoE, new Qwen3.6 GGUF, & WebWorld for local agents