Go 기반 TCP 연결 풀 라이브러리 connpool이 채널 기반 설계와 헬스체크 최적화로 시퀀셜 호출 139ns/0 할당 달성

Context

fatih/pool 같은 기존 Go 연결 풀은 채널 기반 설계는 우수했으나 헬스체크, 유휴 연결 제거, 생명주기 관리, 메트릭스가 부재했다. 고처리량 시스템에서는 이러한 기능들을 래퍼로 직접 구현해야 했고, 결국 완전한 풀 구현을 재개발하게 되었다.

Technical Solution

• 채널 기반 풀 설계 유지: mutex+slice 대신 채널 사용으로 자연스러운 블로킹 의미론과 select/default를 통한 논블로킹 핫패스 지원
• Get() 호출 시 3단계 헬스체크 구현: 생명주기 체크(나노초 수준 시간 비교) → 유휴 시간 체크(시간 비교) → Ping(네트워크 I/O)으로 비용순 정렬
• MaxLifetime에 10% 무작위 편차 적용: 시작 시점 연결들이 동시에 만료되는 thundering herd 현상 방지
• 백그라운드 이빅터(30초 주기 설정 가능) 도입: 풀 유휴 상태에서 죽은 연결 자동 정리 및 MinSize까지 재충전
• Context 인식형 Get() 구현: 컨텍스트 데드라인 및 취소 신호 존중으로 무한 대기 방지
• 내장 메트릭스 제공: Size, Active, Available, IdleClosed, LifetimeClosed, PingFailed, WaitCount, WaitTime 추적

Impact

• 시퀀셜 Get/Put: 139.9ns/op, 0 B/op, 0 allocs/op
• 병렬 Get/Put: 245.1ns/op, 0 B/op, 0 allocs/op
• Ping 포함 벤치마크: 5571ns/op, 81 B/op, 2 allocs/op
• 고경합 상황(8워커 vs 2연결): 478.7ns/op, 0 B/op, 0 allocs/op

Key Takeaway

연결 풀 설계에서 시간 비교 같은 저비용 체크를 네트워크 I/O보다 먼저 배치하면 불필요한 네트워크 왕복을 크게 줄일 수 있다. 또한 무작위 편차를 도입하면 동시 만료로 인한 재연결 폭증을 방지할 수 있다.