CDN Cache Stampede 방지로 Origin Server 가용성 및 시스템 안정성 확보

Context

CDN의 Cache Miss 또는 TTL 만료 시점에 대규모 동시 요청이 Origin Server로 집중되는 Cache Stampede 현상 발생. 글로벌 스케일의 CDN 네트워크 구조로 인해 단일 리소스 만료가 수백만 건의 동시 요청으로 증폭되어 서버 리소스 고갈 및 서비스 장애를 유발하는 구조적 한계 존재.

Technical Solution

• Request Coalescing 도입을 통한 동일 리소스 요청의 단일화 및 Origin Server 전송 요청 수 최소화
• stale-while-revalidate 전략을 통한 백그라운드 갱신 및 만료된 콘텐츠의 일시적 제공으로 응답 지연 제거
• Lock-based Regeneration 설계를 통한 단일 프로세스만 캐시를 갱신하게 하여 중복 계산 및 DB 부하 방지
• Probabilistic Early Expiration 기법을 적용한 TTL 만료 전 무작위 갱신으로 요청 트래픽의 시간적 분산 유도
• Cache Warming 스크립트 운용을 통한 신규 콘텐츠 배포 전 CDN Edge 서버로의 선제적 데이터 배포
• Origin Shield 및 Tiered Caching 계층 설계를 통한 Origin Server로 향하는 요청 경로의 물리적 집약화