세션 경계를 넘는 지속적 기억, AI Agent 메모리 시스템 구축

Context

AI Agent의 Context Window 초기화로 인한 기억 상실 문제 발생. 세션마다 반복되는 학습 패턴과 사용자 선호도 망각으로 인한 효율 저하. 멀티 에이전트 환경 내 공유 컨텍스트 부재라는 구조적 한계.

Technical Solution

• Bun 기반의 JSON 파일 시스템을 활용하여 세션 간 데이터가 유지되는 로컬 Memory Store 설계
• 텍스트 기반 키워드 매칭과 태그 일치 여부를 조합한 가중치 기반 Semantic Retrieval 로직 구현
• 단어 중첩도 70%, 태그 일치도 30%, 중요도 20% 비중의 점수 산출 방식으로 관련 메모리 추출
• 추출된 과거 컨텍스트를 LLM 프롬프트 상단에 주입하여 추론 시 참조하게 하는 Context Injection 전략 적용
• 에이전트의 최종 결정 사항을 자동으로 감지하여 다시 메모리 스토어에 저장하는 피드백 루프 구조 구축

Impact

• 반복 질문 발생률 67% 감소

Key Takeaway

단순한 Vector DB 도입 전 단계에서 가중치 기반 검색과 컨텍스트 주입만으로도 에이전트의 일관성과 장기 기억 능력을 유의미하게 개선 가능.