Hugging Face가 Transformers 모델을 ONNX로 변환하는 3가지 방법을 제시해 저수준 torch.onnx API부터 고수준 Optimum까지 복잡도와 사용성의 트레이드오프 해결
Convert Transformers to ONNX with Hugging Face Optimum
Intel과 Hugging Face가 Optimum Intel 라이브러리를 통해 DistilBERT 모델을 양자화해 평가 속도를 1.34배 향상
Intel and Hugging Face Partner to Democratize Machine Learning Hardware Acceleration
Hugging Face가 Optimum 1.2에서 ONNX Runtime 기반 추론 파이프라인을 추가해 Transformer 모델의 추론 속도 가속화
Accelerated Inference with Optimum and Transformers Pipelines