Hermes Agent의 Persistent Session을 활용한 GitHub 기술 부채 및 의사결정 추적 시스템 구축

Context

코드 변경 이력은 남지만 결정 이유(Rationale)에 대한 기록이 부족하여 발생하는 Institutional Knowledge 손실 문제 해결 필요. 기존 Vector DB 기반 RAG 방식은 단순 문서 검색에 그쳐 시간에 따른 맥락 이해와 시스템적 통찰 제공에 한계 노출.

Technical Solution

• X-Hermes-Session-Id 기반의 Repository별 격리된 Persistent Memory 구조 설계로 저장소별 독립적 문맥 유지
• Ingest 단계에서 System Prompt를 통한 Engineering Decision 자동 추출 및 JSON 분류로 단순 변경과 설계 결정 구분
• RAG 대신 Agent의 누적된 State를 활용한 Streaming Q&A 구현으로 단순 검색이 아닌 학습된 이해 기반의 응답 생성
• Hermes Scheduler API를 이용한 Cron Job 등록으로 30일 주기 Failure Pattern 자율 분석 루프 구축
• Python 3.12 및 FastAPI 기반의 비동기 아키텍처와 SQLite를 통한 세션 ID 매핑 관리

Impact

• Concurrent Request 시 발생하는 Race Condition 해결을 위해 JWT를 Session Cookie로 교체하여 사용자 2%의 비정상 로그아웃 현상 제거