Rust로 Circuit Breaker 패턴을 구현해 외부 API 장애 시 스레드 낭비를 방지하는 기법을 다룬다

Context

외부 API 호출 시 서비스 장애가 발생하면 스레드가 타임아웃까지 대기 상태에 빠진다. 이 상태가 쌓이면 전체 애플리케이션이 멈춘다. 기존 방식은 실패 횟수를 단순 카운트하거나 부울 플래그로 상태를 관리하여 상태 전이 로직이 분산되는 문제가 있다.

Technical Solution

• CircuitState를 Closed, Open, HalfOpen 세 가지 상태로 정의한 enum으로 변환하여 Rust 타입 시스템이 유효한 상태 전이를 강제한다
• failure_threshold, recovery_timeout, success_threshold를 CircuitBreakerConfig 구조체로 분리하여 런타임 상태와 설정을 단일 책임으로 관리한다
• Arc로 래핑하여 스레드 간 CircuitBreaker 인스턴스를 안전하게 공유한다
• Mutex로 동시성 접근을 제어하며 check_state, on_success, on_failure 메서드로 상태 전이 로직을 캡슐화한다
• HalfOpen 상태에서 recovery_timeout 경과 후 probe 요청 1개를 허용하여 서비스 복구를 확인한다

Impact

failure_threshold 도달 시 즉시 OPEN 상태로 전환되어 실패한 호출에 대한 대기 시간을 제거한다

Key Takeaway

Circuit Breaker는 상태를 enum으로 모델링하고 설정을 런타임 상태와 분리하여 구현한다. 이는 Rust의 타입 시스템이 유효하지 않은 상태 전이를 컴파일 타임에 방지하게 한다.