LL-HLS 및 BBR 최적화로 End-to-End 지연시간 2초 미만 달성

Context

프랑스 내 주요 ISP의 BGP 라우팅 불균형과 Transit 링크 혼잡으로 인한 네트워크 Jitter 발생. 기존 HLS의 6~10초 세그먼트 구조로 인한 높은 Latency가 실시간 스트리밍 서비스의 치명적 병목으로 작용.

Technical Solution

• RFC 8216 기반 LL-HLS 도입을 통한 2초 미만 Latency 구현 및 HTTP Blocking Request 처리
• fMP4 포맷 채택 및 #EXT-X-PART-INF 태그를 통한 클라이언트의 데이터 사전 요청 구조 설계
• Nginx 기반 계층적 캐시 구조를 구축하여 Manifest(.m3u8)의 TTL을 1초로 제한하고 미디어 세그먼트는 장기 캐싱하는 Origin Shielding 적용
• Linux 커널 레벨의 TCP BBR 알고리즘 활성화를 통한 패킷 손실 환경 내 애플리케이션 처리량 최대화
• 해외 영토 대상 RTT 증가 해결을 위해 Local CDN 노드 배치 및 QUIC 기반 HTTP/3 멀티플렉싱 적용

Impact

• End-to-End Latency 2초 미만으로 단축
• 200ms 이상의 네트워크 Jitter 환경에서도 스트리밍 Underflow 방지

Key Takeaway

물리적 거리와 네트워크 토폴로지에 따른 구조적 Latency는 단순 애플리케이션 최적화가 아닌 L3(BGP Peering), L4(TCP BBR/QUIC), L7(Edge Caching)의 통합적 튜닝을 통해 해결 가능함.