Tiered Caching 전략을 통한 p99 Latency 42% 감소 및 비용 최적화

Context

단일 캐시 레이어 사용으로 인한 설정 오류와 기술적 불일치가 웹 애플리케이션 성능 저하의 68%를 유발하는 상황 분석. 특히 객체 크기와 워크로드 특성에 맞지 않는 캐시 도구 선택으로 인한 리소스 낭비와 Latency 병목 발생.

Technical Solution

• 데이터 성격에 따른 Tiered Architecture 설계로 최적의 성능 도출
• 10MB 이상의 Static Asset 처리를 위해 HTTP 전용 Reverse Proxy인 Varnish 7.4 배치
• 단순 Key-Value 형태의 Ephemeral Data 처리를 위해 Memory Overhead가 낮은 Memcached 1.6 활용
• Session Store 및 Complex Data Structure 처리를 위해 Redis 8.0의 다양한 자료구조와 Vector Search 모듈 적용
• HTTP 기반의 비-HTTP 워크로드 처리 시 발생하는 Varnish의 40배 성능 저하 문제를 방지하기 위해 전용 경로 분리