What Memory Benchmarks Don't Test

Context

현재 AI 메모리 시스템 평가는 LoCoMo 등의 벤치마크를 통해 검색 정확도(retrieval hit rate)만 측정하고 있다. 2026년 3월 실시된 세 개 독립 비교 평가 모두 이 지표를 사용했으나, 검색 정확도 90%인 시스템이 나머지 10%에서 틀린 정보를 신뢰도 있게 반환하는 경우를 감지하지 못한다. 다중 세션 장시간 운영되는 에이전트 환경에서는 모순, 오래된 정보, 검증되지 않은 신념의 축적으로 인한 신뢰도 저하가 시간에 따라 복합적으로 악화된다.

Technical Solution

• 정보 신선도 추적: 증거의 나이와 상호 검증 여부를 반영하여 신뢰도 점수가 시간 경과에 따라 감소하는 메커니즘 추가
• 모순 탐지 체계: 새로운 정보가 저장된 신념과 충돌할 때 이를 수집 시점에서 감지하고 플래그 지정
• 신념 갱신 연쇄(Supersession chains): 신념이 업데이트될 때 기존 정보를 강등하고 새 정보와 링크하는 구조 구현
• 신뢰도 보정 분리: 검색 유사도(cosine similarity) 기반 점수와 별개로 상호 검증 및 최신성에 기반한 신뢰도 신호 제공
• 다중 세션 평가 프레임워크: 부분 관찰 마르코프 결정 프로세스(POMDP)로 모델링된 다중 세션 에이전트 작업 환경에서 과제 관련 상태 변수 보존 테스트

Impact

LoCoMo 벤치마크에서 높은 점수를 받은 시스템도 포착하지 못하는 3가지 실패 모드 규명: (1) 모순 증거에도 불구하고 기존 신념을 높은 신뢰도로 반환, (2) 충돌하는 정보를 동등한 사실로 제시, (3) 검색 유사도를 신뢰도로 오인하여 미검증 정보나 모순된 신념까지 포함된 메모리를 반환.

Key Takeaway

AI 에이전트의 메모리 시스템 평가는 검색 정확도(recall)에서 추론 시점의 신뢰도(trust at inference time)로 최적화 목표를 전환해야 한다. 증거의 나이, 상호 검증, 모순 해결, 신념의 생명 주기 관리를 포함한 포괄적 평가 프레임워크 도입이 다중 세션 장시간 운영 환경에서 필수적이다.