Rate Limit 테스트 시 실시간 API 대신 Mock을 활용하여 429 응답을 안전하게 재현하는 전략

Context

API Rate Limit은 서버 자원을 보호하고 다수의 클라이언트에게 공정한 접근을 보장한다. 표준 기능 테스트 방식으로는 429 Too Many Requests 에러를 안전하게 재현하기 어렵다. 병렬 CI 환경에서는 각 작업이 개별 제한을 준수하더라도, 통합 사용량 계산으로 전체 할당량이 초과될 수 있다.

Technical Solution

• 테스트 환경 → 실제 API 대신 Mock 서버(WireMock, Mockoon)를 사용하여 429 응답을 제어한다
• CI/CD 파이프라인 → 전용 API 키를 할당하여 프로덕션 API 사용량과 격리한다
• Client 재시도 로직 → 지수적 백오프와 Circuit Breaker 패턴의 작동을 검증한다
• Rate Limit 헤더 → Retry-After, X-RateLimit-Reset 값의 정확성을 확인한다
• 병렬 테스트 격리 → 각 CI 작업에 고유 API 키를 할당하여 동시성 문제를 해결한다

Impact

Mock 활용 시 실제 API 호출 없이 Rate Limit 시나리오를 100% 재현 가능하며, 전용 키 사용 시 프로덕션 API 사용량과의 충돌이 사라진다.

Key Takeaway

Rate Limit 테스트의 핵심 원칙은 실시간 API에 의존하지 않는 것이다. Mock 서버로 429 응답을 제어하고, CI 환경에서는 전용 자격 증명을 할당하여 워크플로우를 깨뜨리지 않고 모든 에러 시나리오를 검증해야 한다.