vLLM TPU 최적화를 통한 모델 크기별 HBM 효율 및 비용 극대화
vLLM on Google Cloud TPU: A Model Size vs Chip Cheat Sheet (With Interactive Tool)
Hugging Face와 Google Cloud가 JAX + Cloud TPU v5e 조합으로 Stable Diffusion XL 추론을 2.4배 비용 효율로 개선하고 4초 내 1024×1024 이미지 4장 생성
🧨 Accelerating Stable Diffusion XL Inference with JAX on Cloud TPU v5e
Hugging Face가 PyTorch/XLA를 Trainer 모듈에 통합해 Cloud TPU에서 트랜스포머 학습을 네이티브 지원
Hugging Face on PyTorch / XLA TPUs