피드로 돌아가기
InfoQInfrastructure
원문 읽기
192코어 확장 및 수학적 검증 기반 VM 격리로 실현한 고밀도 컴퓨팅
AWS Graviton5 Reaches General Availability with 192 Cores and Formally Verified VM Isolation
AI 요약
Context
에이전틱 AI 및 실시간 추론 워크로드 증가에 따른 고성능 CPU 자원 필요성 증대. 기존 인스턴스의 코어 수와 메모리 대역폭 한계로 인해 대규모 동시 환경 처리 및 가속기 효율 최적화에 병목 발생.
Technical Solution
- TSMC 3nm 공정 기반 4개 Chiplet 구조 채택을 통한 칩당 192 Core 구현
- L3 Cache 192MB 확장 및 DDR5-8800 도입을 통한 메모리 대역폭 병목 해소
- PCIe Gen 6 적용으로 가속기 및 스토리지 간 데이터 전송 지연 시간 최소화
- Formal Verification 기법을 적용한 Nitro Isolation Engine 설계로 하이퍼바이저 격리 무결성 수학적 증명
- No SMT 설계를 유지하여 vCPU당 물리 코어 1:1 매핑을 통한 예측 가능한 성능 제공
- M9gd 모델에 11.4TB NVMe SSD 탑재 및 IOPS 30% 향상으로 로컬 스크래치 공간 최적화
실천 포인트
- CPU 집약적인 AI Agent 또는 고성능 DB 워크로드의 M9g 마이그레이션 검토 - 멀티테넌트 환경에서 강력한 보안 격리가 필요한 경우 Nitro Isolation Engine 활용 여부 확인 - 로컬 I/O 성능이 중요한 배치 작업의 경우 M9gd 인스턴스 도입 고려 - 추론 전용 최적화가 필요한 경우 2026년 출시 예정인 C9g 벤치마크 대기