피드로 돌아가기
Dev.toAI/ML
원문 읽기
Task-aware Context 관리로 Token 비용 55% 절감
ContextClaw: The OpenClaw Plugin That Cut My Token Bill 55%
AI 요약
Context
단순 Recency 기반의 Sliding Window 방식은 불필요한 Tool Output과 중복 데이터가 Context Window를 점유하는 문제를 야기함. 이로 인해 모델이 핵심 의사결정 정보를 망각하고 Token 비용이 급증하는 Context Rot 현상 발생.
Technical Solution
- Message Classifier 도입을 통한 User Intent, Tool Result, Decision 등 메시지 타입별 구조적 분류
- Task-bucket Sticker 기반의 컨텍스트 그룹화로 단순 시간 순서가 아닌 작업 단위의 논리적 경계 설정
- NEXT_TICKET.md 등 Workspace 파일의 상태 변화를 Trigger로 사용하는 Explicit Task Boundary 기반의 Eviction 로직 설계
- Recency 중심의 삭제 방식에서 Type-aware Eviction으로 전환하여 저용량 고가치 정보(Decision) 보존 및 고용량 저가치 정보(Tool Spam) 우선 제거
- OpenClaw Plugin Registry에 통합하여 Provider 호출 전 단계에서 컨텍스트를 정제하는 Middleware 구조 채택
실천 포인트
1. Context Window 설계 시 Recency 기반 삭제 대신 데이터 타입별 가중치 기반 Eviction 검토
2. 에이전트의 상태를 프롬프트 내부가 아닌 외부 파일이나 DB에 명시적으로 기록하고 이를 기반으로 Context를 동기화
3. Tool Output 등 일회성 고용량 데이터의 생명주기를 정의하여 Task 종료 시 즉시 제거하는 메커니즘 구축