Hugging Face TGI가 Multi-LoRA 서빙 기능으로 단일 배포에서 30개 모델을 동시 제공 가능하게 함
TGI Multi-LoRA: Deploy Once, Serve 30 Models
Hugging Face가 LLaMA 7B 모델에 LoRA 8bit 로딩과 RLHF 파이프라인을 적용해 단일 GPU에서 대규모 언어모델 학습을 가능하게 함
StackLLaMA: A hands-on guide to train LLaMA with RLHF
Hugging Face가 PEFT 라이브러리를 통해 대규모 언어 모델의 파인튜닝을 학습 가능 파라미터 0.19%로 제한하면서 40GB 체크포인트를 19MB로 감소
Parameter-Efficient Fine-Tuning using 🤗 PEFT