유연성과 비용 최적화의 균형을 통한 AWS 비용 절감 전략

Context

Graviton4 확산과 AI 워크로드의 간헐적 특성으로 인해 고정된 인스턴스 패밀리 기반의 Reserved Instances(RI) 제약 사항 발생. 단순 할인율 중심의 선택이 인스턴스 마이그레이션 시 유휴 자원 발생과 비용 증가로 이어지는 구조적 한계 존재.

Technical Solution

• Graviton4 등 신규 인스턴스 패밀리 전환 시 유연한 대응을 위해 Compute Savings Plans(SP)를 통한 추상화 계층 적용
• 워크로드 변동성 및 로드맵 불확실성에 따른 3-year No-Upfront SP 기반의 베이스라인 설계
• AI 학습 등 스파이키한 GPU 워크로드에 대해 SageMaker SP와 Spot Instance를 혼합하여 비용 효율 극대화
• FOCUS billing export의 commitment-level utilization 지표를 통한 실시간 이용률 모니터링 및 피드백 루프 구축
• 예측 가능한 베이스라인의 60~70% 수준만 SP로 커밋하고 나머지를 On-demand로 유지하는 리스크 분산 전략 적용