NanoChat JAX 포팅을 통한 TPU 가속 및 Scaling Law 분석 환경 구축
I Rebuilt Karpathy's NanoChat in JAX. Here's What XLA Gets Right and What It Gets Dead Wrong.
Google이 TorchAX 라이브러리로 PyTorch 모델을 JAX로 변환해 TPU 네이티브 실행과 JIT 컴파일 최적화 지원
Run Any HuggingFace Model on TPUs: A Beginner's Guide to TorchAX
Google이 TPU v5e 2x4와 Keras 모델 샤딩으로 7개 LLM을 동시 로드하여 LLM의 실시간 오류 수정 능력을 평가하는 대화형 테스트 환경 구축
How good are LLMs at fixing their mistakes? A chatbot arena experiment with Keras and TPUs
Keras가 Llama 3.2 모델을 Hugging Face 체크포인트에서 즉시 로드 및 실행 지원으로 별도 변환 작업 제거
“Llama 3.2 in Keras”
Hugging Face와 Google Cloud가 JAX + Cloud TPU v5e 조합으로 Stable Diffusion XL 추론을 2.4배 비용 효율로 개선하고 4초 내 1024×1024 이미지 4장 생성
🧨 Accelerating Stable Diffusion XL Inference with JAX on Cloud TPU v5e
Hugging Face Diffusers가 Flax 지원을 추가해 Stable Diffusion을 Google TPU에서 8개 병렬 장치를 활용한 추론으로 단일 칩 속도로 8배 이미지 생성 가능
🧨 Stable Diffusion in JAX / Flax !