피드로 돌아가기
Dev.toInfrastructure
원문 읽기
트래픽 분산 최적화를 통한 Scalability 및 Availability 확보 전략
Load Balancers and its strategies
AI 요약
Context
단일 서버 구조의 트래픽 집중으로 인한 성능 저하 및 Single Point of Failure 위험 존재. 서비스 확장성에 따른 효율적인 요청 분산 처리 구조의 필요성 대두.
Technical Solution
- Static 및 Dynamic 방식의 Load Balancer 구분을 통한 서버 상태 반영 여부 결정
- Stateful/Stateless 설계를 통한 Client-Server 간 연결 상태 유지 전략 수립
- Round Robin 및 Weighted Round Robin을 활용한 단순 순차적 또는 가중치 기반 트래픽 배분
- IP Hash 및 URL Hash 기반의 특정 요청 경로 및 클라이언트 고정 라우팅 구현
- Least Connections 및 Least Response Time 기반의 실시간 서버 부하 및 응답 속도 최적화 라우팅
실천 포인트
- 단순 트래픽 분산이 목적일 경우 Round Robin 검토 - 서버 사양 차이가 존재하는 환경에서 Weighted Round Robin 적용 - 세션 유지나 특정 리소스 접근 최적화가 필요할 경우 Hash 기반 전략 채택 - 서버 응답 성능의 실시간 변동성이 클 경우 Least Response Time 도입 검토