월 $10 미만 유지, AWS 서버리스 기반 AI DR 툴킷 설계

Context

AWS 백업 환경은 구축했으나 실제 Disaster Recovery(DR) 실행 계획이 부재한 상황. 문서화된 Runbook이나 테스트된 Failover 절차 및 RTO/RPO 목표 설정이 미흡한 구조.

Technical Solution

• Next.js 16 정적 내보내기 및 S3 OAC 기반 CloudFront 배포로 서버 비용 제로화 설계
• API Gateway HTTP API와 Python 3.14 Lambda 조합을 통한 이벤트 기반 서버리스 아키텍처 구축
• Amazon Bedrock의 Cross-region inference profiles를 활용해 Nova Pro 및 Lite 모델을 도구별 복잡도에 따라 차등 할당
• models.config.json 단일 설정 파일을 통한 모델 ID, 토큰 제한, 일일 쿼터의 중앙 집중식 관리 구조
• DynamoDB 기반의 IP별 Rate Limit 및 전역 Kill Switch를 포함한 5단계 비용 가드레일 시스템 구현
• AWS Budgets와 SNS를 연동하여 월 예산 초과 시 Lambda가 DynamoDB 플래그를 자동 변경하는 차단 메커니즘 적용

Impact

• 월 유지 비용 $10 이하로 제한
• API Gateway 처리 성능 10 req/s 및 Burst 25 req/s 설정
• 도구별 일일 사용량 30~50회 제한 적용

Key Takeaway

LLM 서비스 구축 시 모델 추상화 레이어와 중앙 설정 파일을 통해 인프라 변경 없이 모델 공급자를 유연하게 교체할 수 있는 설계의 중요성.