피드로 돌아가기
Hacker NewsInfrastructure
원문 읽기
ARM AGI CPU: Specs and SKUs
Arm이 자체 설계한 AGI CPU를 3nm 공정으로 생산해 단일 36kW 랙에 8,160코어 탑재 가능
AI 요약
Context
Arm은 기존에 CPU와 GPU 설계를 라이선스하는 사업 모델을 운영했으나, 데이터센터와 AI 인프라 분야에서 자체 실리콘 솔루션의 필요성이 대두되었다.
Technical Solution
- Neoverse V3 아키텍처 기반 최대 136코어 구성: 각 코어당 2MB L2 캐시 탑재
- Armv9.2 ISA에 bfloat16 및 INT8 AI 명령어 지원: agentic AI 연산 최적화
- 96레인 PCIe Gen6과 CXL 3.0 Type 3 인터페이스: 고대역폭 I/O 처리
- 12채널 DDR5-8800 메모리 지원으로 최대 6TB 메모리 구성: 메모리 대역폭 극대화
- 듀얼-칩렛 설계를 통한 2노드 10U 서버 구성: 272코어 블레이드 단위로 기준 설정
- 3가지 SKU 제공 (SP113012 136코어, SP113012S 128코어, SP113012A 64코어): 코어 수와 메모리 대역폭 트레이드오프 옵션
Impact
- 기준 구성 36kW 랙: 30개 블레이드로 총 8,160코어 달성
- Supermicro 액체냉각 설계: 336개 AGI CPU로 45,000코어 이상 구성 가능
Key Takeaway
Arm은 라이선스 기반 비즈니스에서 자체 실리콘 제조로 전환하며, 높은 코어 밀도와 메모리 대역폭을 특화 설계 원칙으로 삼아 AI 인프라 시장을 직접 공략하고 있다.
실천 포인트
대규모 AI 추론 워크로드를 배포하는 데이터센터 엔지니어는 ARM AGI CPU의 SKU 선택 시 단순 코어 수 대신 메모리 대역폭 요구사항(64코어 SP113012A vs 128코어 SP113012S)을 먼저 검토하면, 총소유비용(TCO) 대비 처리량을 최적화할 수 있다.