1천 달러로 FFmpeg 제로데이 21개 발견한 Agentic Security 분석

Context

150만 라인의 고도로 최적화된 C 코드로 구성된 FFmpeg의 방대한 Attack Surface 분석 필요성 대두. 기존의 Fuzzing과 수동 감사로도 발견하지 못한 15~20년 된 잠복 취약점들이 잔존하는 한계 존재.

Technical Solution

• 단순 코드 생성이 아닌 Threat Modeling 기반의 아키텍처 분석을 수행하는 Security Agent 설계
• 전체 저장소를 평면적으로 처리하지 않고 데이터 흐름에 따라 Parser와 Protocol Handler를 추적하는 Data Flow Analysis 적용
• 가설 수립과 병렬 검증을 통해 Attacker-controlled input이 실제 Vulnerable Sink에 도달하는지 확인하는 실행 경로 추적
• 이론적 보고를 넘어 구체적인 PoC Input을 자동 생성하여 취약점의 Reachability를 실시간으로 검증하는 Guardrail 구축
• 특히 av_buffer_realloc 과정의 Refcount 조작을 통한 Control Flow 하이재킹 메커니즘 분석 및 RCE Primitive 증명

Impact

• 분석 비용을 기존 1만 달러에서 1천 달러로 90% 절감하며 21개의 Zero-day 취약점 발견
• 23년 전 도입된 SDT 구현체 내 Stack Buffer Overflow 등 장기 잠복 취약점 식별

Key Takeaway

LLM 기반 에이전트 설계 시 단순 인터랙티브 챗봇 구조를 탈피하여, 도메인 특화된 Threat Model과 실행 가능한 검증 루프를 결합한 Agentic Workflow의 중요성 확인