GPU 없이 Meta Prompt Guard 대비 Recall 33.7%p 향상시킨 FIE 설계

Context

기존 LLM Guardrail 모델의 높은 GPU 의존성과 낮은 탐지율로 인한 보안 취약점 발생. 단순 출력 로그 기반 모니터링으로는 프롬프트 인젝션과 같은 정교한 공격 원인 파악이 불가능한 한계 직면.

Technical Solution

• Prompt와 LLM 사이에 위치하여 입력과 출력을 전수 검사하는 Proxy 계층 구조 설계
• Regex, Semantic Scoring, FAISS 기반 벡터 검색을 포함한 13단계 다층 탐지 레이어 구축
• 3개의 독립 모델이 상호 검증하여 환각을 식별하는 Shadow Jury 메커니즘 도입
• HALLUCINATION_RISK 등 구체적 실패 유형을 정의한 Failure Archetypes 분류 체계 적용
• 반복적으로 재구성된 Jailbreak 데이터셋 기반 PAIR Classifier 도입을 통한 False Positive 비율 최적화
• 데코레이터 패턴 기반의 인터페이스 설계로 기존 스택 수정 없이 즉시 통합 가능한 SDK 구조 구현