피드로 돌아가기
I Kept Hitting Claude Code's 5-Hour Limit After 2 Hours. So I Built This.
Dev.toDev.to
AI/ML

L-SDF 도입을 통한 입력 토큰 73% 절감 및 AI 에이전트 내비게이션 최적화

I Kept Hitting Claude Code's 5-Hour Limit After 2 Hours. So I Built This.

ec19802026년 5월 19일6intermediate

Context

대규모 코드베이스 내 AI 에이전트 활용 시 반복적인 컨텍스트 전송으로 인한 토큰 소모 급증 문제 발생. Prompt Caching 적용 후에도 파일 전체를 읽는 구조적 한계로 인해 사용 제한 도달 시간이 단축되는 병목 현상 확인.

Technical Solution

  • 소스 코드 직접 읽기 전 단계에 구조적 맵을 제공하는 Latent-Structured Documentation Format(L-SDF) 설계
  • INDEX.lsdf를 통한 디렉토리 내 파일 존재 여부 및 기본 구조의 1차적 파악
  • INDEX.detail.lsdf를 통해 시그니처, 스키마, Call Edge 등 인터페이스 정보만 선택적 추출
  • 구현체 본문(Implementation Body)은 최종 단계에서만 접근하는 계층적 데이터 로딩 전략 채택
  • .cursorrules 및 CLAUDE.md 설정을 통해 에이전트가 인덱스 파일을 우선 참조하도록 유도
  • CI/CD 파이프라인 내 lsdf sync 체크를 통한 인덱스 최신 상태 유지 및 데이터 정합성 확보

Impact

  • 소스 코드 대비 인덱스 토큰 사용량 13.4배 압축 (110K $\rightarrow$ 8K tokens)
  • 50턴 세션 기준 입력 토큰 비용 약 73% 절감 ($2.03 $\rightarrow$ $0.55)

Key Takeaway

AI 에이전트의 컨텍스트 윈도우 효율을 높이기 위해 전체 소스 대신 '추상화된 구조 맵'을 먼저 제공하는 계층적 정보 접근 설계의 유효성 입증


1. AI 에이전트 사용 시 전체 파일 대신 시그니처 중심의 요약 파일 제공 여부 검토

2. 코드 변경 시 인덱스 최신화를 위한 Pre-commit hook 또는 CI 단계의 검증 로직 구현

3. RAG 기반의 불투명한 컨텍스트 주입 대신 명시적이고 버전 관리 가능한 구조 맵 도입 고려

원문 읽기