피드로 돌아가기
GeekNewsAI/ML
원문 읽기
CodeBurn - AI 코딩 도구 토큰 사용량/비용 추적 TUI 대시보드
로컬 세션 데이터 직접 분석을 통한 AI 코딩 비용 추적 TUI 설계
AI 요약
Context
AI 코딩 도구의 파편화로 인한 토큰 사용량 및 비용 관리의 어려움 발생. 기존의 프록시나 래퍼 방식은 API 키 설정 및 네트워크 오버헤드라는 제약 사항이 존재함.
Technical Solution
- API Proxy나 Wrapper를 배제하고 디스크의 세션 데이터를 직접 파싱하는 Local-first 데이터 추출 구조 채택
- LiteLLM 가격 데이터셋을 로컬에 매핑하여 네트워크 호출 없는 즉각적인 비용 산정 로직 구현
- LLM 호출 없는 결정론적 분류 알고리즘을 통한 13개 작업 카테고리 자동 분류 체계 설계
- AI 세션과 Git Commit 로그를 연계하여 지출의 생산성 기여도를 분석하는 Yield 분석 엔진 구축
- Frankfurter API 연동을 통한 162개 통화 실시간 환율 변환 레이어 적용
- JSON 포맷 출력 지원을 통한 외부 자동화 파이프라인 확장성 확보
실천 포인트
- 외부 API 의존성을 줄이기 위해 로컬 세션/로그 데이터를 직접 분석하는 전략 검토 - 비용 최적화를 위해 단순 사용량 합산이 아닌 Git 커밋 기반의 생산성 지표(Productive/Reverted) 연계 분석 적용 - LLM 비용 절감을 위해 고비용-저가치 세션 및 중복 파일 읽기 패턴의 정기적 탐지 프로세스 구축