Intel이 Optimum Intel과 OpenVINO를 활용해 SmolVLM을 Intel CPU에서 실행하며 PyTorch 대비 12배 TTFT 단축 및 65배 처리량 증대
Get your VLM running in 3 simple steps on Intel CPUs
Intel과 Qwen이 Depth-Pruned Draft Model과 Speculative Decoding을 결합해 Qwen3-8B 에이전트 추론 속도를 1.4배 향상
Accelerating Qwen3-8B Agent on Intel® Core™ Ultra with Depth-Pruned Draft Models
Intel과 Hugging Face가 Optimum-Intel과 OpenVINO GenAI를 조합해 Transformer 모델을 C++ 환경의 엣지 디바이스에 INT4 가중치 양자화로 배포
Optimize and deploy with Optimum-Intel and OpenVINO GenAI
Hugging Face와 Intel이 Phi-2 모델에 4비트 양자화와 Intel OpenVINO를 적용해 Intel Meteor Lake 노트북에서 실시간 LLM 추론 실행
A Chatbot on your Laptop: Phi-2 on Intel Meteor Lake
Intel과 Hugging Face가 NNCF 기반 Quantization-Aware Training과 Token Merging을 결합해 Stable Diffusion의 CPU 추론 속도를 5.1배 단축하고 모델 크기를 4배 감축
Optimizing Stable Diffusion for Intel CPUs with NNCF and 🤗 Optimum
Intel이 Sapphire Rapids CPU에서 OpenVINO, IPEX, AMX 가속기를 조합해 Stable Diffusion 추론 레이턴시를 32.3초에서 5.05초로 84% 단축
Accelerating Stable Diffusion Inference on Intel CPUs
Hugging Face와 Intel이 Optimum Intel에 OpenVINO를 통합해 Vision Transformer 모델의 메모리 크기를 3.8배 감소(344MB→90MB)시키고 추론 레이턴시를 2.4배 단축(98ms→41ms)
Accelerate your models with 🤗 Optimum Intel and OpenVINO