Session ID 설계와 Event-driven Memory 구조를 통한 AI 제도적 지식 체계 구축

Context

정적 문서 기반의 RAG 방식은 데이터 간의 인과관계와 시간적 흐름을 파악하는 데 한계가 있음. 특히 AI 에이전트의 Persistent Memory 구현 시 세션 식별자 설계 미비로 인한 데이터 마이그레이션 불가 및 컨텍스트 유실 위험이 존재함.

Technical Solution

• Domain Semantics를 포함한 Session ID 설계를 통한 데이터 격리 및 디버깅 효율 확보
• Static Document 대신 Event-driven Feed 방식을 채택하여 결정 사항의 인과관계 및 패턴 학습 유도
• 단순 텍스트 저장이 아닌 Rationale 추출 및 모순점 식별을 위한 Structured Extraction System Prompt 설계
• Ingest 단계(Temp 0.2~0.3)와 Q&A 단계(Temp 0.6~0.7)의 Temperature 분리 운영으로 추출 일관성과 합성 유연성 동시 확보
• Cron Job 실행 시 명시적인 Identity 부여를 통한 Session Context 연결 및 메모리 참조 활성화
• SSE(Server-Sent Events) 기반 Streaming 구현으로 10~20초에 달하는 생성 지연 시간의 사용자 체감 Latency 제거