LLM Recall 0.80 달성 및 Hybrid Pipeline 통한 SAST 한계 극복

AI For Security Review In Application Code

Nazar Boyko2026년 6월 7일19분advanced

AI 요약

Context

기존 SAST 도구는 Taint Analysis 기반의 정적 분석으로 인해 Dynamic Dispatch 등 간접 참조 경로를 놓치는 한계가 존재함. 반면 LLM은 높은 Recall을 보이나 False Positive 비율이 극도로 높아 단독 도입 시 분석 비용이 급증하는 Trade-off 발생.

Technical Solution

Deterministic SAST가 후보 지점을 1차 발굴하고 LLM이 이를 Triage 하는 Hybrid Pipeline 설계로 Noise 최소화
Taint Analysis의 Syntactic 분석과 LLM의 Pattern Matching 방식을 결합하여 탐지 사각지대 제거
Unsafe Deserialization 등 패턴이 명확한 취약점은 LLM에 전담시켜 탐지 효율 극대화
Agent-style Review 도입 시 Read-only 권한 제한 및 Network Access 차단으로 Prompt Injection 통한 Credential Exfiltration 방어
외부 기여자의 소스 코드 내 Hidden Text 및 Zero-width Character 탐지 린터를 배치하여 Agent 조작 시도 사전 차단
분석 결과의 Confidence Score에 따라 인간 리뷰어의 개입 여부를 결정하는 계층적 검토 프로세스 구축

실천 포인트

1. AI 보안 리뷰 도입 시 Pure Chat/Agent/Hybrid 중 어떤 아키텍처인지 정의할 것

2. LLM 단독 판단에 의존하지 말고 SAST-Genius와 같은 Triage 파이프라인을 검토할 것

3. 보안 에이전트의 GITHUB_TOKEN 권한을 Read-only로 제한하고 outbound network를 차단할 것

4. 소스 코드 내 주석 기반의 Prompt Injection 가능성을 고려하여 입력값 필터링 린터를 적용할 것

태그

#Hybrid Pipeline #Prompt Injection #SAST #LLM #Taint Analysis

원문 읽기