AI Agent Memory Part 2: The Case for Intelligent Forgetting

Context

Mem0, LangMem, AWS AgentCore 등 기존 에이전트 메모리 도구들은 모두 append-only 방식으로 모든 대화 기록을 무한정 저장한다. 이로 인해 6개월 운영 후 사용자 정보 변경(React → Vue 3)을 반영하지 못하거나, 50개의 중복된 구 검색 결과로 노이즈가 발생하며, 전체 스토리지가 일상적 잡담과 오타 수정까지 포함해 계속 증가한다.

Technical Solution

• Ebbinghaus 망각곡선 원리 적용: 1880년대 심리학 연구에서 입증된 기억 감쇠 공식을 AI 에이전트에 직접 구현해 중요도와 접근 빈도에 따라 자동으로 메모리 강도 조정
• 이중 계층 메모리 아키텍처(FadeMem): Long-term Memory Layer에 사용자 선호도·중요 문맥은 느리게 감쇠, Short-term Memory Layer에 일회성 질문·상황 문맥은 빠르게 감쇠되도록 분리
• 중요도 점수 기반 자동 가지치기: 최근 대화 관련성, 접근 빈도, 경과 시간 3가지 지표로 메모리 강도를 지속 산출해 임계값 이하 메모리는 수동 개입 없이 자동 삭제
• PostgreSQL + pgvector + Ollama 스택 기반 MCP 서버 구현(YourMemory): store_memory(중요도 점수 저장) → recall_memory(강도+유사도 순위 검색) → update_memory(기존 메모리 강화) 3가지 도구 노출
• TTL 및 tiered memory resource 활용: Mem0 native expiration_date, LangGraph의 store.ttl, AWS AgentCore의 eventExpiryDuration을 중요도별로 차등 설정해 구현

Impact

• FadeMem 벤치마크(30일 연속 상호작용 기준): 중요 정보 유지율 78.4% → 82.1%, 스토리지 사용량 100% → 55%(45% 절감)
• 메모리 검색 정확도: 노이즈 감소로 관련 결과 상위 순위 도출, 6개월 경과 구정보 영향력 자동 제거

Key Takeaway

에이전트 메모리는 저장(storage) 문제가 아니라 망각(forgetting) 설계 문제다. 인간 뇌처럼 중요한 정보는 강화되고 구정보는 자동으로 감쇠되는 메커니즘을 기술 아키텍처에 내재화하면 스토리지 효율과 응답 정확도를 동시에 확보할 수 있다.