T1027 난독화 공격을 통한 LLM 가드레일 무력화 및 전처리 Normalization 해결책

Context

패턴 매칭 기반의 정적 필터링 시스템으로 99.2%의 일반 Jailbreak 시도를 차단했으나, Morse Code 등 인코딩된 페이로드에 의한 Semantic Bypass 발생. LLM의 내장된 디코딩 능력이 보안 경계를 무력화하며 다회차 대화를 통한 Context 기반 실행으로 이어지는 취약점 노출.

Technical Solution

• LLM 도달 전 모든 입력값을 표준 텍스트로 변환하는 encoding_normalizer.py 전처리 레이어 도입
• Base64, ROT13, Hexadecimal, Unicode Homoglyphs 등 6가지 주요 인코딩 패밀리에 대한 사전 디코딩 로직 구현
• 'Normalize First, Then Filter' 전략을 통해 필터가 모델과 동일한 관점에서 데이터를 해석하도록 설계
• 개별 메시지 분석의 한계를 극복하기 위해 대화 상태(Conversation State) 전반에 걸친 입력 정규화 적용
• 모델의 판단에 의존하지 않고 Tool Execution 레이어에서 최종 정책을 강제하는 Defense-in-Depth 구조 채택