Edge Runtime에서도 작동하는 zero-dependency 회복성 라이브러리 flowshield

Context

분산 시스템의 의존성 장애가 전체 시스템으로 확산되는 연쇄 장애 위험 존재. API 타임아웃 및 데이터베이스 과부하 등 예측 불가능한 외부 서비스 실패 대응 필요. Edge Runtime 환경에서 가볍게 동작하는 결함 허용 전략 부재.

Technical Solution

• 지수 백오프 알고리즘을 적용한 Retry 전략으로 일시적 네트워크 오류 자동 복구
• 설정된 실패 임계치 도달 시 호출을 즉시 차단하는 Circuit Breaker 패턴으로 시스템 과부하 방지
• 특정 시간 초과 시 작업을 강제 취소하는 Timeout 설정으로 리소스 점유 시간 최적화
• wrap 함수를 통한 Retry, Circuit Breaker, Timeout, Fallback 정책의 체이닝 및 조합 가능한 구조
• Hedge 전략을 통한 다중 요청 경쟁 및 최단 응답 선택 방식의 지연 시간 단축
• Bulkhead 패턴을 적용한 동시성 제한으로 하위 서비스 보호 및 리소스 격리 설계

Key Takeaway

인프라 수준의 회복성 도구 없이도 애플리케이션 코드 레벨에서 선언적인 정책 조합을 통해 분산 시스템의 가용성을 확보하는 설계 원칙.