Graviton5 기반 M9g 출시: L3 캐시 5배 확장 및 PCIe Gen6 도입으로 처리량 극대화

Context

Agentic AI 및 데이터 집약적 워크로드 증가로 인한 CPU 연산 병목 현상 심화. 기존 Graviton4 대비 더 높은 코어 밀도와 메모리 대역폭, 낮은 Inter-core latency에 대한 요구 사항 증대.

Technical Solution

• Graviton5 프로세서 탑재를 통한 192코어 구성 및 L3 캐시 5배 확장으로 CPU-bound 단계의 대기 시간 단축
• PCIe Gen6 및 DDR5-8800 메모리 최초 적용을 통한 클라우드 내 최고 수준의 메모리 대역폭 확보
• 6세대 AWS Nitro System 기반의 Nitro Isolation Engine 도입으로 수학적 정밀도 기반의 가상 머신 간 격리 수준 강화
• Instance Bandwidth Configuration(IBC) 기능을 통한 EBS 및 VPC 네트워크 대역폭의 유연한 할당(최대 25%) 최적화
• M9gd 인스턴스 제공을 통한 고속 저지연 로컬 NVMe SSD 스토리지 계층 추가로 I/O 성능 극대화

Impact

• 전체 컴퓨팅 성능 최대 25% 향상 및 웹 애플리케이션/ML 추론 최대 35%, 데이터베이스 최대 30% 성능 개선
• ClickHouse 성능 36% 향상 및 HubSpot MySQL 쿼리 지속 시간 최대 60% 감소
• Honeycomb 기준 코어당 처리량 36% 개선 및 네트워크 대역폭 최대 2배(최대 사이즈 기준) 확장

Key Takeaway

AI Agent와 같이 추론과 실행이 반복되는 워크로드에서는 단순 클럭 속도보다 캐시 크기와 메모리 대역폭 확장이 실질적인 처리량 향상의 핵심 동인임.