Email Header 기반의 Persistent Memory 설계로 세션 휘발성 제거

From Chatbot to Mailbox: Persistent Agent Memory in Threads

Qasim Muhammad2026년 6월 16일6분intermediate

AI 요약

Context

기존 Chatbot 아키텍처의 Session Store 방식은 탭 종료 시 컨텍스트가 소멸하는 휘발성 한계 보유. 다일(Multi-day) 단위의 비동기 상호작용 시 컨텍스트 복구를 위해 복잡한 Serialization 및 Rehydration 과정이 강제되는 구조적 병목 존재.

Technical Solution

Message-ID, In-Reply-To, References 헤더 체인을 활용한 연합형(Federated) 메모리 계층 설계
Subject 기반 매칭의 불확실성을 제거하기 위해 고유 Message-ID 중심의 Threading 로직 채택
Durable Transcript(메일박스)와 Thin Pointer(DB/Redis)를 분리한 2계층 상태 관리 아키텍처 구축
thread_id를 키로 하여 taskId 및 Workflow Step을 매핑하는 상태 복구 메커니즘 구현
168시간 이상의 침묵(Silence)을 상태 변화로 정의하여 자동 에스컬레이션 트리거 설정
매 턴마다 전체 트랜스크립트를 재분류하여 0.85 이상의 신뢰도에서만 자동 응답하는 필터링 적용

실천 포인트

1. Subject 매칭 대신 Message-ID 헤더 기반의 Threading 구현 여부 확인

2. Durable Transcript와 Application State를 분리하여 인덱스만 저장하는 구조 검토

3. 턴 수 제한(Max Turns) 및 침묵 기간(Dormancy)에 따른 Human-in-the-loop 에스컬레이션 정책 수립

4. 에스컬레이션 비율(40~50%)을 모니터링하여 Knowledge Base 튜닝 지표로 활용

태그

#Threaded Architecture #Persistent Memory #Event-Driven #State Management #Asynchronous Communication

원문 읽기