Pydantic Validator 기반 ASI06 Memory Poisoning 원천 차단 아키텍처

Context

OpenAI Agents SDK의 상태 관리 모델에서 사용자 입력이 Persistent Context에 저장될 때 발생하는 Memory Poisoning(ASI06) 취약점 식별. 기존 LLM 출력 계층 중심의 방어 체계로는 메모리에 저장된 악성 프롬프트가 세션 전반의 추론 과정을 오염시키는 입력 계층의 위협 제어 불가.

Technical Solution

• Pydantic BaseModel의 @field_validator를 활용한 Context 객체 생성 단계의 검증 훅(Hook)으로 설계
• 입력 데이터가 Agent의 Reasoning Context에 도달하기 전 'Before' 모드에서 사전 필터링 수행
• OWASP Agent Memory Guard를 통합하여 Prompt Injection 및 Jailbreak 패턴의 세밀한 탐지 로직 구현
• Thread Message List와 Session Notes 등 모든 상태 저장 경로에 동일한 검증 패턴을 적용한 일관성 확보
• 단순 키워드 필터링을 넘어 Semantic Similarity 분석을 통한 우회 공격 시도 차단