RTX 5090과 M4 MacBook Air: 게임이 가능할까?

Context

Apple Silicon의 폐쇄적 GPU 아키텍처와 macOS의 eGPU 지원 부재로 인한 로컬 LLM 연산 병목 발생. 특히 대규모 프롬프트 처리 시 Prefill 단계의 연산 한계로 인한 높은 TTFT(Time To First Token)가 주요 문제로 작용함.

Technical Solution

• 표준 DriverKit 인터페이스를 통한 PCIe BAR의 사용자 공간 매핑 및 macOS 수정 최소화 설계
• macOS 호스트의 GPU 가속 대신 Linux VM으로 eGPU를 직접 터널링하는 GPU Pass-through 구조 채택
• Virtualization.framework의 제약을 우회하여 Linux VFIO 방식의 장치 제어 메커니즘 적용
• tinygrad 드라이버의 낮은 최적화 수준을 극복하기 위한 CUDA 커널 직접 실행 환경 구축
• macOS의 1.5GB Window 크기 제한을 완화하여 고성능 GPU 메모리 접근 효율성 확보

Impact

• 4K 토큰 프롬프트 파싱 시간 17s에서 150ms로 단축(약 120배 성능 향상)
• Qwen3.6 모델 기준 프롬프트 처리 속도 300 token/s, 생성 속도 30 token/s 달성

Key Takeaway

호스트 OS의 드라이버 제약이 심한 경우, VM 레벨의 Pass-through를 통해 하드웨어 제어권을 분리함으로써 특정 워크로드의 성능 병목을 근본적으로 해결 가능함.