Google이 SigLIP 이미지 인코더와 Gemma-2B 텍스트 디코더를 선형 어댑터로 결합한 PaliGemma 비전-언어 모델 family를 오픈소스로 공개
PaliGemma – Google's Cutting-Edge Open Vision Language Model
Hugging Face Transformers가 bitsandbytes와 auto-gptq 두 가지 양자화 방식을 비교 분석하여 추론 속도와 파인튜닝 성능의 트레이드오프를 명확히 제시
Overview of natively supported quantization schemes in 🤗 Transformers
Hugging Face와 bitsandbytes가 4비트 양자화와 QLoRA 기법을 통합하여 65B 파라미터 모델을 단일 48GB GPU에서 파인튜닝 가능하게 구현
Making LLMs even more accessible with bitsandbytes, 4-bit quantization and QLoRA