Episodic Memory 도입으로 장애 복구 시간 45분에서 3분으로 단축

Context

기존 LLM 기반 장애 대응은 인프라 특수성과 과거 시도 이력을 무시한 Generic Response만 제공하는 한계 존재. 특히 동일 장애 재발 시 과거의 해결책과 실패 사례를 다시 탐색해야 하는 Context-building 오버헤드 발생.

Technical Solution

• Hindsight 프레임워크를 활용한 Episodic Memory 계층 설계로 과거 장애 이력의 구조화된 저장 및 검색 구현
• Error Fingerprint, Root Cause, Applied Fix, Resolve Time 등 핵심 메타데이터 기반의 정밀한 Incident 기록 체계 구축
• 단순 Semantic Search를 넘어 과거 시도 중 실패한 'Negative Space' 정보를 함께 추출하여 불필요한 시행착오 제거
• Next.js 기반의 3-Pane 인터페이스를 통해 Codebase 탐색과 Memory Log 조회를 통합하여 인지 부하 최소화
• FastAPI 백엔드와 Vectorize 기반의 외부 메모리 저장소를 연결하여 LLM Context Window 내 최적의 관련 정보 주입

Impact

• 장애 상황 인지 후 해결까지 소요되는 시간(MTTR)을 45분에서 3분으로 약 93% 단축