#int2-int8

Intel이 Signed Gradient Descent 기반 POST-TRAINING QUANTIZATION 기법으로 INT2~INT8 저비트 양자화에서 기존 방법 대비 최대 2.1배 높은 정확도 달성

Introducing AutoRound: Intel’s Advanced Quantization for LLMs and VLMs