256KB 코드 최적화를 통한 64KB 메모리 초기화 효율 개선

Context

특정 프로세서용 x86-32 emulator 개발 중 Binary Translation 방식을 통한 성능 최적화 추진. 컴파일러의 Loop Unrolling 과적용으로 인해 메모리 초기화 로직이 비정상적으로 비대해진 상황 발생.

Technical Solution

• Interpreter 방식 대신 Native Code를 생성하는 JIT Compiler 구조 채택으로 실행 속도 향상
• 컴파일러가 64KB 메모리 초기화를 위해 65,536개의 개별 Write 명령어를 생성한 Loop Unrolling 문제 식별
• 명령어 하나당 4Byte가 소요되어 데이터 크기보다 코드 크기가 4배 더 큰 256KB의 비효율적 구조 확인
• Translator 내부에 특정 패턴을 감지하는 전용 검출 로직 추가
• 비대해진 개별 명령어를 제거하고 효율적인 Tight Loop 구조로 강제 치환하는 Reroll 프로세스 구현