피드로 돌아가기
Dev.toAI/ML
원문 읽기
코드 수정 없는 Sidecar 패턴 기반 AI Agent Persistent Memory 구현
How I Gave My AI Agent Persistent Memory Without Modifying Its Code
AI 요약
Context
AI Agent의 세션 간 컨텍스트 단절로 인한 반복적인 정보 입력의 비효율 발생. RAG의 통합 비용, Fine-tuning의 높은 비용 및 느린 반복 주기라는 제약 조건으로 인해 Agent 내부 코드 수정 없는 독립적 메모리 계층 필요성 대두.
Technical Solution
- Agent의 내부 코드를 수정하지 않고 데이터 디렉터리를 모니터링하는 Sidecar 프로세스 아키텍처 채택
- 데이터의 휘발성과 중요도에 따른 Hot(5 KB 제한 최근 컨텍스트), Warm(PostgreSQL 기반 요약), Cold(Knowledge Graph 및 FTS5 검색) 3계층 저장 구조 설계
- 세션 파일 및 state.db를 읽어 중요한 대화 내용을 자동으로 아카이빙하고 지식 베이스를 구축하는 파이프라인 구성
- MCP bridge를 통한 시스템 프롬프트 주입 방식으로 Agent의 기능 변경 없이 관련 컨텍스트를 동적으로 제공
- memory_watermark.py를 통한 메모리 임계치 관리 및 주기적 스냅샷 백업으로 데이터 안정성 확보
- session_to_gbrain.py를 통해 단순 세션 로그를 구조화된 지식 그래프로 변환하여 시맨틱 검색 효율 증대
실천 포인트
- Agent 내부 로직 수정이 불가능한 상용 도구 사용 시 Sidecar 패턴 검토 - 메모리 비용 최적화를 위해 데이터 성격에 따른 Multi-tier Storage(Hot/Warm/Cold) 전략 적용 - 단순 Vector DB 저장보다 Knowledge Graph와 FTS5를 결합한 하이브리드 검색 방식 고려 - MCP(Model Context Protocol)와 같은 표준 브리지를 통한 컨텍스트 주입 인터페이스 설계