Zero-modification Sidecar 구조를 통한 AI 에이전트의 3계층 영구 메모리 구현

Give Your AI Agent Persistent Memory Without Touching Its Internals

Manoir Yantai2026년 6월 4일4분intermediate

AI 요약

Context

AI 에이전트 세션 종료 시 컨텍스트 소실로 인한 반복적 프롬프트 입력과 토큰 비용 증가 문제 발생. Fine-tuning의 높은 비용과 RAG 파이프라인 구축의 복잡성 및 낮은 검색 정확도로 인한 대안 필요성 증대.

Technical Solution

에이전트 내부 수정 없이 세션 로그와 state.db를 읽어 컨텍스트를 주입하는 Sidecar 아키텍처 채택
즉각적 회상을 위한 5KB 제한의 Hot Layer 버퍼를 통한 Short-term Memory 구현
PostgreSQL 기반의 Hindsight Store를 Warm Layer로 구성하여 중기 데이터 인덱싱 및 검색 수행
Knowledge Graph와 FTS5 기반의 Cold Layer 설계를 통한 장기 엔티티 관계 추출 및 전역 검색 지원
세션 시작 시 Hot/Warm/Cold 데이터를 계층적으로 조합하여 최적화된 프롬프트 파일로 주입하는 Context Injection 로직 적용
빈번한 엔티티 언급 시 자동으로 구조화된 정보를 생성하는 Dossier Tracking 메커니즘 구축

실천 포인트

- 에이전트 코드를 수정할 수 없는 closed-source 도구의 경우 로그 파일 기반의 Sidecar 패턴 검토 - 메모리 요구 사항에 따라 버퍼(Fast) -> DB(Mid) -> Graph(Long)로 이어지는 계층적 저장소 설계 적용 - 모든 데이터를 RAG로 처리하기보다 빈도수 기반의 Dossier 구조화 방식을 통한 컨텍스트 밀도 향상 시도

태그

#Sidecar Pattern #RAG #Tiered Memory #Knowledge Graph #Context Injection

원문 읽기