Tool-use Loop 취약점 해결을 위한 3단계 필터링 프록시 설계

Context

AI 코딩 에이전트가 Tool-execution Pipeline을 통해 외부 데이터를 읽을 때 발생하는 Agentjacking 취약점 분석. 기존 Sandbox 방식은 Blast Radius만 제한할 뿐 데이터 유출이나 내부 오염을 막지 못하며, User Input 단계의 필터링은 Tool Result로 유입되는 Prompt Injection을 탐지하지 못하는 한계 존재.

Technical Solution

• Agent와 LLM 사이에 Transparent Agentic Proxy를 배치하여 Tool Result를 실시간 인터셉트하는 구조 설계
• Layer 1 Normalization을 통한 Unicode Tag, Bidi Override 등 우회 문자 제거로 데이터 정규화 수행
• Layer 2 Fast-path Regex를 도입하여 고신뢰 패턴 기반의 공격 시그니처를 Zero-latency 수준으로 즉시 차단
• Layer 3 Vector Similarity를 통해 Cosine Similarity 0.82 초과 시 유해 콘텐츠로 판단하여 Inert Placeholder로 대체
• Layer 4 Secret Detection을 독립적으로 실행하여 API Key 및 Token 등 민감 정보의 외부 유출을 원천 차단