Deterministic Refusal 제거를 통한 Attack Success Rate 100배 감소

Context

AI Agent Guardrail에서 동일한 에러 응답을 반복하는 Deterministic Block 방식의 취약점 분석. 공격자가 Response Shape의 변화를 추적하여 최적의 공격 쿼리를 찾는 Model-guided Search의 피드백 루프로 활용하는 문제 발생.

Technical Solution

• Predictable Refusal를 제거하여 공격자의 탐색 경로를 교란하는 Detect-and-Misdirect 전략 채택
• Response Shape, Latency, Message의 무작위 변동을 통한 Stable Signal 제거
• 외부 응답은 변동시키되 내부 로그는 실제 차단 사유를 유지하는 분리 구조 설계
• Timing Attack 방지를 위해 응답 지연 시간을 Response Surface의 일부로 관리
• Deny-by-default 방화벽 레이어에서 비정형 응답을 생성하는 Logic 구현