Non-blocking I/O 기반 Concurrent 요청 처리 효율 극대화

Context

전통적인 Blocking I/O 모델은 외부 시스템 응답 대기 시간 동안 Thread가 점유된 상태로 유지되는 리소스 낭비 구조임. 이로 인해 대규모 트래픽 발생 시 Thread 생성 오버헤드와 컨텍스트 스위칭 비용이 증가하여 전체 시스템 처리량이 저하됨.

Technical Solution

• Single-threaded Event Loop 구조를 통한 Thread 관리 오버헤드 제거 및 단일 스레드 기반의 효율적 연결 제어
• Non-blocking I/O 도입으로 I/O 작업 요청 즉시 다음 Task로 제어권을 넘기는 비동기 처리 흐름 설계
• Event-driven Architecture 적용을 통해 작업 완료 시점에 Callback 함수를 실행하는 반응형 메커니즘 구축
• CPU 연산보다는 I/O-heavy 작업에 최적화된 위임 구조로 서버 가동률 최적화
• Concurrency 관점에서 다수의 요청을 효율적으로 스케줄링하여 Parallelism 없이도 높은 처리량 달성