Hugging Face와 Intel이 SetFit 모델에 Optimum Intel의 Post-Training Quantization을 적용해 Intel Xeon CPU에서 7.8배 추론 속도 향상 달성
Blazing Fast SetFit Inference with 🤗 Optimum Intel on Xeon
Blazing Fast SetFit Inference with 🤗 Optimum Intel on Xeon
CPU Optimized Embeddings with 🤗 Optimum Intel and fastRAG