Speculative Execution의 최적화 비용으로 발생한 Cache Side Channel 보안 취약점 분석

Context

CPU 성능 극대화를 위해 도입된 Speculative Execution이 데이터 접근 지연 시간을 줄이는 핵심 기제로 작동함. 하지만 실행 결과 롤백 시에도 CPU Cache에 잔존하는 데이터 흔적이 covert channel로 활용되는 설계적 허점이 존재함.

Technical Solution

• Flush+Reload 기법을 통한 Cache 상태 측정으로 Speculative Execution으로 유입된 데이터의 인덱스 추론
• Meltdown 해결을 위해 Kernel Page-Table Isolation(KPTI)을 도입하여 User Space에서 Kernel Memory 매핑을 원천 차단
• Spectre v1 대응을 위해 Bounds Check 지점에서 Speculation을 제어하는 Compiler 수준의 Barrier 및 Microcode 업데이트 적용
• Spectre v2 해결을 위해 Branch Target Predictor 오염을 방지하는 Retpoline 등의 간접 분기 제어 기술 도입
• 하드웨어의 추상화 계층을 신뢰하지 않는 Memory-safe language 채택 및 프로세스 격리 수준 강화
• 성능 최적화와 보안 보장 간의 Trade-off를 인지한 Constant-time programming 설계 적용