RAG 데이터 유출 방지를 위한 Output Filter에서 Retrieval-stage ABAC로의 설계 전환

Context

많은 RAG 시스템이 LLM 응답 후 단계에서 PII Masking을 수행하는 Output-stage 필터링 구조를 채택함. 그러나 LLM이 이미 기밀 데이터를 학습/참조한 상태에서 응답을 생성하므로, 단순 패턴 매칭만으로는 정교한 데이터 유출을 막기에 역부족인 구조적 한계가 존재함.

Technical Solution

• LLM 프롬프트 주입 전 단계에서 권한 검증을 수행하는 Retrieval-stage ABAC 구조 도입
• 사용자가 읽기 권한이 없는 문서 및 Graph Node를 검색 경로에서 원천 차단하여 프롬프트 유입을 방지
• 단순 문자열 기반의 PII Masking 대신 데이터 접근 제어 계층을 상단으로 이동시켜 구조적 보안 확보
• LLM의 Creative Paraphrasing으로 인한 패턴 매칭 우회 가능성을 원천적으로 제거
• 특정 데이터에 근거한 추론(Inference) 기반 유출 및 대화 맥락(Context Window) 내 기밀 정보 잔존 문제 해결
• Output Filter를 제거하는 것이 아닌, 최후의 방어선(Defense-in-depth)으로 역할을 재정의하여 다층 보안 체계 구축