Microsoft Presidio 기반 PII Firewall 구축으로 데이터 유출 원천 차단

Context

기존 LLM Observability 도구들의 사후 기록 방식으로는 GDPR, HIPAA 등 엄격한 컴플라이언스 대응에 한계 존재. 데이터가 인프라 외부로 전송된 후 인지하는 구조적 취약점으로 인해 실시간 PII 유출 방지 체계 필요성 대두.

Technical Solution

• FastAPI Depends()를 활용하여 LLM Orchestrator 호출 전 단계에서 enforce_governance_policy를 실행하는 Pre-processing 계층 설계
• Microsoft Presidio를 로컬로 실행하여 외부 API 호출 없이 50개 이상의 Entity Type을 스캔하는 Zero-trust 데이터 검증 구조 채택
• YAML 기반의 Policy DSL을 도입하여 코드 수정 및 재시작 없이 Runtime에 block, warn, alert 액션을 제어하는 동적 정책 엔진 구현
• Cloud 모델과 Local 모델의 신뢰 수준을 차등 적용하여 PII 탐지 임계값(Confidence Threshold)에 따른 조건부 라우팅 로직 적용
• PostgreSQL Audit Vault를 통해 모든 추론 요청의 PII 플래그, Safety Score, Latency를 기록하는 감사 추적 시스템 구축