Semantic Caching 도입으로 LLM 호출 58% 절감 및 Latency 95% 개선
Semantic caching our flaky-test summariser: 58% fewer LLM calls
고가용성 API 설계를 위한 Rate Limiting, Versioning, Idempotency 핵심 전략
API Design for High-Throughput Systems: Rate Limiting, Versioning, Idempotency
Circuit Breaker와 Graceful Degradation 도입으로 Uptime 99.97% 달성
How a fintech platform achieved 99.97% uptime with graceful degradation and circuit breakers
Tight Coupling 제거 및 Load-Shedding 도입을 통한 플랫폼 복원력 강화
GitHub Acknowledges Recent Outages, Cites Scaling Challenges and Architectural Weaknesses
Unbounded Queue 제거와 Load Shedding을 통한 Latency Death Spiral 원천 차단
Why Queues Don’t Fix Overload (And What To Do Instead)
GitHub가 아키텍처 결합도 제거 및 부하 흘리기 메커니즘 개선으로 2월~3월 대규모 가동 중단 해결
Addressing GitHub’s recent availability issues