Tokio 기반의 경량 설계로 최대 316,211 QPS를 달성한 Rust HTTP 프레임워크

Context

기존 웹 프레임워크의 무거운 의존성과 복잡한 Boilerplate 코드로 인한 개발 생산성 저하 문제 발생. 고성능 비동기 런타임을 활용하면서도 설정의 단순함과 낮은 오버헤드를 동시에 확보해야 하는 설계적 요구사항 존재.

Technical Solution

• Tokio async runtime 기반의 비동기 이벤트 루프 채택을 통한 고성능 동시성 처리 구현
• Attribute Macros 시스템 도입을 통한 서버 설정 및 의존성 주입의 Boilerplate 제거
• TCP_NODELAY 및 IP TTL 설정 최적화를 통한 네트워크 레이턴시 최소화 구조 설계
• RequestConfig를 통한 Buffer Size, Max Body Size 등의 정밀한 리소스 제한 설정으로 메모리 효율성 확보
• Regex 기반의 Dynamic Path Parameter 매칭 시스템을 통한 유연한 라우팅 제어 구현
• WebSocket 및 SSE 내장 지원으로 실시간 양방향 통신 패턴의 구조적 통합

Impact

• Keep-Alive 미적용 시 51,031 QPS 달성으로 Rocket(49,345) 및 Gin(40,149) 대비 우위 확보
• 100만 건의 AB Test 기준 Keep-Alive 적용 시 316,211 QPS의 처리 성능 기록
• Tokio 순수 런타임(308,596 QPS)과 대등하거나 상회하는 수준의 처리량 증명

Key Takeaway

프레임워크의 추상화 계층을 최소화하고 런타임 특성에 최적화된 설정을 제공함으로써, 편의성과 성능이라는 상충 관계를 Attribute Macro와 정밀한 Config 제어로 해결 가능함.