Habana Gaudi2에서 BridgeTower 비전-언어 모델 파인튜닝 시 데이터 로딩 최적화로 Nvidia A100 대비 2.5배, H100 대비 1.4배 속도 향상
Accelerating Vision-Language Models: BridgeTower on Habana Gaudi2
Habana Labs가 Gaudi2 가속기와 Optimum Habana 라이브러리를 통해 176억 파라미터 BLOOMZ 모델의 추론 지연시간을 Nvidia A100 80GB 대비 1.42배 단축
Fast Inference on Large Language Models: BLOOMZ on Habana Gaudi2 Accelerator
Habana가 Gaudi2 AI 가속기를 Nvidia A100 80GB와 벤치마크해 BERT 사전학습에서 1.8배, Stable Diffusion 추론에서 2.44배 성능 향상 달성
Faster Training and Inference: Habana Gaudi®2 vs Nvidia A100 80GB