단순 기록을 넘어 원칙으로 진화하는 AI 메모리, Experience Engine

Context

기존 AI 메모리 도구는 단순 사실 기반의 데이터 누적으로 인한 토큰 비용 증가 문제 발생. 단순 노트 양의 증가가 개발자의 숙련도 향상이나 일반화된 문제 해결 능력으로 이어지지 않는 한계 존재.

Technical Solution

• 개별 사실을 일반 원칙으로 진화시키고 기존 데이터를 삭제하는 'Experience Engine' 설계
• T0(원칙), T1(행동), T2(QA 캐시), T3(원리)의 4단계 계층 구조를 통한 효율적 컨텍스트 관리
• 세션 트랜스크립트에서 반복 루프, 사용자 수정, 테스트 실패 사이클 등 5가지 패턴 기반의 실수 자동 추출
• 3회 이상 확인된 항목의 승격(Promote), 유사 항목의 추상화(Abstract), 미사용 항목의 정리(Archive)를 통한 메모리 최적화
• 단순 벡터 매칭을 넘어 지식 간의 연결 관계를 정의하는 Experience Graph 구조 도입
• 확인 빈도, 최신성, 도메인 일치 여부를 반영한 Anti-Noise Scoring 기반의 결과 랭킹 시스템

Impact

• 2주간의 운영 결과 47건의 제안 생성 및 12건의 실수 사전 방지
• 약 50개의 Raw Entry를 5개의 핵심 원칙으로 압축하여 메모리 풋프린트 감소

Key Takeaway

데이터의 양적 축적보다 추상화를 통한 지식의 일반화가 AI 에이전트의 실질적인 성능 향상을 결정하는 핵심 설계 원칙임.