Deterministic Engine과 LLM의 분리를 통한 Claude Code 세션 분석 도구 구현

Her · हेर — a detective for your Claude Code sessions

2026년 6월 7일3분intermediate

AI 요약

Context

Claude Code 세션의 .jsonl 로그 파일이 제공하는 방대한 데이터량으로 인해 가시성 확보에 어려움 발생. 특히 컨텍스트 예산 소모 지점 및 위험한 Tool Call을 수동으로 추적해야 하는 운영상 한계 존재.

Technical Solution

Deterministic Engine을 통한 데이터 분석과 LLM의 Prose 생성 역할을 엄격히 분리하여 결과의 일관성 보장
Nemotron-Mini-4B-Instruct 모델을 ZeroGPU 기반으로 구동하여 외부 API 호출 없는 로컬 추론 환경 구축
Homebrew, npm, PyPI 기반의 내장 툴 데이터베이스를 활용하여 CLI 도구의 정체성을 오프라인에서 즉시 식별
단일 세션 뷰와 다중 세션 프로젝트 뷰를 지원하는 React 기반 프런트엔드 및 Gradio 서버 아키텍처 적용
분석 데이터의 프라이버시 보호를 위한 자동 삭제 기반의 Private Namespace 격리 구조 설계

실천 포인트

- 신뢰성이 중요한 분석 도구 설계 시, 핵심 로직은 Deterministic하게 구현하고 LLM은 인터페이스(Prose) 레이어로만 제한 - 대규모 로그 분석 시 단순 리스트업 대신 비용(Cost) 및 위험도 기반의 필터링 레이어 우선 구축 - 외부 API 의존성을 제거한 Small Language Model(SLM) 활용으로 데이터 보안 및 추론 비용 최적화 검토

태그

#Deterministic Engine #ZeroGPU #SLM #LLM #Observability

원문 읽기