ML-KEM-768 도입을 통한 Post-quantum 보안 강화 및 2KB 핸드셰이크 설계

Context

양자 컴퓨터의 Shor's algorithm으로 인해 X25519와 같은 기존 타원 곡선 암호화의 Discrete Log Problem 기반 보안 체계 붕괴 위험 발생. 특히 장기적인 데이터 프라이버시가 요구되는 메시징 앱 특성상 'Harvest Now, Decrypt Later' 공격에 대비한 Post-quantum ready 설계가 필수적인 상황.

Technical Solution

• NIST FIPS 203 표준인 ML-KEM-768을 채택하여 AES-192 수준의 보안 강도와 리소스 효율성의 균형 확보
• KEM을 통한 Shared Secret 생성 후 ChaCha20-Poly1305 대칭키 암호화로 연결하는 계층적 암호 구조 설계
• HKDF와 per-message nonce를 통한 Domain Separation을 적용하여 동일한 Shared Secret 내에서도 메시지별 독립적 키 생성
• 세션 수립 시에만 ML-KEM Ciphertext를 전송하고 이후 세션 내에서는 캐싱된 Room Secret을 활용하는 방식으로 네트워크 오버헤드 최소화
• 버전 기반 Domain Separator("v3") 설계를 통해 향후 Post-quantum 표준 변경 시 하위 호환성을 유지하는 회전 전략 구축
• 복잡성을 줄이기 위해 Hybrid 방식 대신 순수 ML-KEM-768 단일 스택을 채택하여 감사 가능성(Auditability) 향상