Hugging Face Transformers가 bitsandbytes와 auto-gptq 두 가지 양자화 방식을 비교 분석하여 추론 속도와 파인튜닝 성능의 트레이드오프를 명확히 제시

Context

대규모 언어 모델의 메모리 소비량을 줄이기 위해 양자화 기술이 필수적이다. 현재 Transformers 라이브러리는 bitsandbytes와 auto-gptq 두 가지 양자화 방식을 지원하고 있으나, 각 방식의 장단점과 성능 특성이 명확하게 정리되지 않아 사용자가 선택에 어려움을 겪고 있다.

Technical Solution

• bitsandbytes 4비트 양자화: 캘리브레이션 데이터셋 불필요한 제로샷 양자화로 모든 torch.nn.Linear 모듈을 포함한 모델에 즉시 적용 가능
• auto-gptq 4비트 양자화: exllama 커널을 사용한 고속 추론으로 텍스트 생성 작업에서 bitsandbytes보다 우수한 처리량 제공
• bitsandbytes 어댑터 병합: 양자화된 기본 모델 위에서 학습한 어댑터를 추론 성능 저하 없이 병합 가능
• auto-gptq 모델 직렬화: 4비트 양자화된 모델을 TheBloke 네임스페이스에서 직렬화된 형태로 제공하여 다운로드 후 즉시 사용 가능
• 하이브리드 접근: bitsandbytes로 제로샷 양자화 → 어댑터 파인튜닝 → auto-gptq로 재양자화 후 배포하는 파이프라인

Impact

• Llama-2-7B 모델: bitsandbytes 4비트 평가 시 원본 54.32에서 53.4로 0.92 포인트 성능 저하, auto-gptq 사용 시 53.23으로 1.09 포인트 성능 저하
• Llama-2-13B 모델: bitsandbytes 4비트 평가 시 원본 58.66에서 56.9으로 1.76 포인트 성능 저하, auto-gptq 사용 시 57.56~58.03으로 0.63~1.1 포인트 성능 저하
• 파인튜닝 성능: bitsandbytes가 auto-gptq보다 어댑터 파인튜닝에서 더 빠른 학습 속도 제공

Key Takeaway

양자화 기술 선택은 사용 사례에 따라 달라진다: 파인튜닝 중심이면 bitsandbytes의 제로샷 성능과 어댑터 병합 이점을 활용하고, 추론 처리량 최적화가 필요하면 auto-gptq의 고속 텍스트 생성 성능을 선택해야 한다. 큰 모델일수록 양자화로 인한 성능 저하가 최소화되는 경향을 보인다.