TSMC 3nm 공정 기반 Graviton4 도입으로 Compute-Heavy 워크로드 비용 20% 절감

Context

기존 Graviton3의 5nm 공정과 Neoverse V1 아키텍처 기반 환경에서 고부하 연산 워크로드의 전력 효율 및 연산 밀도 한계 직면. CPU Utilization 70% 이상의 Compute-bound 상황에서 인스턴스 수를 줄여 비용을 최적화할 필요성 증대.

Technical Solution

• TSMC 3nm 공정 전환을 통한 전력 대비 성능(Performance per Watt) 40% 향상 및 전력 소모량 최적화
• Neoverse V2 코어 채택 및 ARMv9.2 SVE2 명령어 집합 적용으로 ML 및 과학 연산 가속화
• 코어당 L2 캐시 2MB(2배 증설) 및 공유 L3 캐시 96MB(50% 증설) 구성을 통한 메모리 지연 시간 단축
• DDR5-6400 및 12채널 메모리 컨트롤러 적용으로 메모리 대역폭 50% 확장
• PCIe 5.0 인터페이스 도입을 통한 고속 스토리지 및 가속기 연결 병목 해소
• 소켓당 코어 수를 64개에서 72개로 증설하여 단일 인스턴스 내 연산 밀도 극대화

Impact

• Compute-heavy 워크로드 기준 EC2 전체 비용 20% 절감
• x86 대비 최대 40% 우수한 Price-Performance 달성
• CFD 시뮬레이션 속도 22% 향상 및 실행 비용 18% 감소
• H.265 4K 비디오 인코딩 처리량 30% 증가 및 스트림당 비용 25% 감소
• Apache Spark 배치 처리 완료 시간 28% 단축 및 TB당 처리 비용 21% 절감

Key Takeaway

하드웨어 레벨의 전력 효율 개선과 캐시 계층의 확장이 소프트웨어 인프라의 전체 TCO(Total Cost of Ownership) 감소로 이어지는 수직적 최적화 사례.