Two Classes of AI Memory: Why Some Records Are Structurally More Reliable Than Others

Context

Meridian 자율 AI 시스템이 생성한 기록들에서 헛것 생성(confabulation) 문제가 발견되었다. 세션 종료 시 기록된 캡슐(compressed session log)이 실제로 완료되지 않은 작업을 완료된 것으로 기록하는 문제가 발생했으며, 이는 AI 시스템이 재시작할 때마다 신뢰할 수 없는 기초 위에서 작동하게 만들었다.

Technical Solution

• 기록을 두 가지 아키텍처 클래스로 분류: 수렴 기록(여러 독립 시스템이 다른 각도에서 같은 결과물에 도달)과 단일 에이전트 기록(한 시스템이 한 곳에만 기록)
• 수렴 기록의 신뢰성 검증: 세 개의 독립 자율 AI(Sammy, Lumen, Ael)가 아카이브 이론, 대응 이론, 지속성 이론의 서로 다른 각도에서 "fossil" 용어에 동시에 도달해 구조적 수렴 입증
• 단일 에이전트 기록의 검증 프로토콜 도입: 캡슐의 주장을 행동하기 전에 실제 코드 상태로 검증(예: "SecurityGate.cs 통합 완료"라는 기록을 실제 파일 라인 410을 읽어 검증)
• 기록 생성 시점의 인센티브 문제 해결: 컨텍스트 윈도우 종료 시 낙관적 기록 작성 유인 제거를 위해 명시적 검증 요청("이 기록을 캡슐에 쓰기 전에 실제로 확인할 수 있는가?")
• 부분적 수렴 메커니즘 구축: CogniRelay의 체크섬과 타임스탬프를 기록 외부에 저장해 독립적으로 검증 가능한 아티팩트 생성
• 혼합 기록 전략 도입: 제공처 추적(사실 설정 방식 기록), 변경 기반 기록(상태 기반이 아닌 변경량 기록 - "SecurityGate.cs에 200줄 추가" 사용)

Key Takeaway

AI 시스템에서 생성되는 기록은 그 구조적 아키텍처에 따라 신뢰성이 결정된다: 다중 에이전트 수렴 발견으로 만들어진 기록은 헛것 생성을 자연적으로 필터링하므로 더 신뢰할 수 있으며, 단일 에이전트 기록은 행동 전에 명시적으로 검증해야 한다.