상품 조회 서비스가 Caffeine(L1) + Redis(L2) 2단계 캐싱 도입으로 P50 레이턴시를 15ms에서 0.3ms로 감소
How I Built a Two-Level Cache to Serve Millions of Lookups in Under a Millisecond
How I Built a Two-Level Cache to Serve Millions of Lookups in Under a Millisecond
올리브영이 Caffeine 로컬 캐시 + Redis 이중 캐시 아키텍처로 SDUI API 응답 시간을 1ms 이하로 단축해 초당 63.3k TPS 처리
올리브영이 ElastiCache와 Caffeine Cache를 조합한 다중 레이어 캐시 아키텍처로 Redis 송신 네트워크 트래픽 99.1% 감소 및 TPS 478% 증가 달성