CPython 3.15의 JIT, 다시 궤도에 오르다

Context

CPython 3.13과 3.14의 원본 JIT는 인터프리터보다 오히려 느린 경우가 많았다. 2025년 주요 스폰서 철수로 Faster CPython 팀의 재정 지원이 끊기면서 프로젝트 지속성에 대한 의문이 제기되었다. JIT 개발은 높은 진입장벽으로 인해 신규 기여자 참여가 어려웠다.

Technical Solution

• 트레이스 레코딩(Trace Recording) 도입: JIT 프론트엔드를 기존 방식에서 트레이싱 기반 방식으로 재작성하여 JIT 코드 커버리지를 50% 증가시켰다.
• 듀얼 디스패치(Dual Dispatch) 메커니즘: 일반 명령어의 트레이싱 버전 대신 트레이싱 담당 단일 명령어와 두 개의 디스패치 테이블 구조로 변경하여 인터프리터 크기 증가를 최소화했다.
• 참조 카운트 제거 최적화: 바이트코드 옵티마이저와 함께 JIT된 코드의 참조 카운트 감소 분기를 제거하여 성능을 개선했다.
• 작업 분해를 통한 기여자 확대: 복잡한 JIT 최적화를 단위 작업으로 쪼개고 상세 가이드를 제공하여 C 프로그래머도 기여 가능하도록 했다.
• 커뮤니티 주도 관리 체계: 스폰서 철수 후 버스 팩터 감소를 목표로 JIT 미들엔드의 활발한 반복 기여자를 2명에서 4명으로 증가시켰다.
• 성능 측정 인프라 구축: doesjitgobrrr.com을 통해 매일 JIT 성능을 리포트하는 시스템으로 회귀 조기 발견과 동기 부여를 지원했다.

Impact

• macOS AArch64에서 테일 콜링 인터프리터 대비 11~12% 성능 향상
• x86_64 Linux에서 표준 인터프리터 대비 5~6% 성능 향상
• 3.15 목표(5% 향상)를 1년 이상 조기에 macOS AArch64에서 달성
• JIT 코드 커버리지 50% 증가
• JIT 미들엔드 활발한 반복 기여자 2명에서 4명으로 증가
• x86_64 Linux에서 커뮤니티 최적화 기간 동안 JIT 성능을 1%에서 3~4%로 향상

Key Takeaway

언어 런타임 수준의 복잡한 최적화도 작은 단위 작업으로 분해하고 명확한 가이드를 제공하면 진입장벽이 낮아져 커뮤니티 기여가 활발해진다. 일상적 성능 측정과 시각화 인프라는 회귀 방지뿐 아니라 개발자 동기 부여에도 필수적인 요소다.