Stateful Proxy 기반 PII 가상화로 LLM 프라이버시 제약 해결

Context

LLM 활용 시 사용자가 입력하는 민감 정보가 제3자 제공자에게 그대로 노출되는 보안 취약점 존재. 기존의 단순 Redaction 방식은 데이터의 맥락을 파괴하여 LLM의 추론 능력과 응답 품질을 저하시키는 한계 발생.

Technical Solution

• Application과 LLM 사이의 Stateful Proxy 계층을 도입하여 데이터 흐름을 제어하는 구조 설계
• 원본 데이터를 식별 가능한 토큰으로 치환하는 Reversible Pseudonymization 기법 적용
• 단순 삭제가 아닌 PERSON_1, EMAIL_1 형태의 토큰화를 통해 LLM이 엔티티 간 관계와 문맥을 유지하도록 설계
• 조직, 사용자, 세션 단위로 구분된 Scoped Vault를 구축하여 토큰과 원본 값의 매핑 상태를 관리
• LLM 응답 수신 후 신뢰 환경 내에서 토큰을 원본 값으로 복구하는 Rehydration 프로세스 구현
• 정규식 패턴 매칭과 언어 모델 기반 탐지를 결합한 Hybrid Detection 프레임워크 채택