Transcription-to-LLM 갭을 차단하는 3단계 보안 파이프라인 설계

Context

초음파 및 Psychoacoustic Masking 기술을 이용해 인간은 인지하지 못하지만 AI는 텍스트로 변환하는 Adversarial Audio 공격으로 인한 보안 취약점 발생. 기존 오디오 레이어의 Noise Reduction 중심 방어 체계로는 STT 이후 생성되는 Plain Text 형태의 Injection 공격을 탐지하지 못하는 한계 존재.

Technical Solution

• STT 모델과 LLM 사이에 검증 레이어를 삽입하여 Transcription Output을 직접 검사하는 인터셉터 구조 설계
• Text Normalization 단계를 통해 Unicode Tag 및 Homoglyph를 제거하여 정규화된 텍스트 기반의 분석 환경 구축
• Fast-Path Regex를 적용해 'ignore previous context'와 같은 고신뢰도 Injection Signature를 Near-zero Latency로 즉시 차단
• Vector Similarity 분석을 통해 의미적 유사도를 계산하여 Cosine Similarity 0.40~0.55 범위 내의 우회 공격 패턴 탐지 및 중화
• Agentic Workflow의 데이터 유출 방지를 위해 User Input과 Tool Result 모두를 검사하는 Transparent Proxy 아키텍처 채택