AI 가속기 BOM 비용 66%를 차지하는 Memory 중심의 구조적 병목 현상
Memory is two-thirds of what an AI chip costs to build
Inference 최적화 HW 도입을 통한 Token 단가 절감 및 수익 구조 재설계
AI is getting expensive, but relief is on the way - just not for you
1,190억 달러 투입을 통한 궤도 AI 데이터센터용 Terafab 구축
Musk has never built a wafer fab, but he wants to burn $119B on one anyway
100B 달러 AWS 인프라 투자 통한 5GW 규모 AI 연산 자원 확보
Anthropic takes $5B from Amazon and pledges $100B in cloud spending in return
H100의 1/6 비용으로 구현한 오픈소스 AI 칩 T1C 설계 기록
I'm under 18, broke, and I just designed an open-source AI chip. Here's the full story.
Habana가 Gaudi2 AI 가속기를 Nvidia A100 80GB와 벤치마크해 BERT 사전학습에서 1.8배, Stable Diffusion 추론에서 2.44배 성능 향상 달성
Faster Training and Inference: Habana Gaudi®2 vs Nvidia A100 80GB