피드로 돌아가기
Dev.toAI/ML
원문 읽기
Cold-start Tax 제거를 위한 Claude Code Persistent Agent 설계
Running Claude Code in a Loop: The Script That Turns It Into a Persistent Agent
AI 요약
Context
인터랙티브 세션 기반의 Claude Code를 단순 Polling 방식으로 호출할 시 매 틱마다 발생하는 MCP server handshake 및 컨텍스트 재로딩으로 인한 심각한 Cold-start 지연 발생. 20초 polling 간격이 30초로 늘어나는 등 런타임 오버헤드로 인한 에이전트 효율성 저하 문제 직면.
Technical Solution
- stream-json 모드 도입을 통한 단일 Claude 프로세스의 Persistent Session 유지 구조 설계
- stdin/stdout 기반의 JSON Line 프로토콜을 활용한 비대화형 Prompt 주입 및 Event 기반 상태 제어
- /clear 명령어를 통한 컨텍스트 Bloat 방지 및 MCP server/CLAUDE.md 캐시를 유지하는 효율적 세션 초기화 구현
- .orchestrator 제어 파일을 활용하여 에이전트의 작업 완료 상태를 외부에서 감지하고 세션 리셋을 트리거하는 루프 로직 구성
- MIN_SLEEP, IDLE_STEP, MAX_SLEEP 파라미터 기반의 Adaptive Backoff 전략을 통한 리소스 최적화 및 응답성 확보
- Idempotency 원칙을 적용한 Imperative Tick Prompt 설계를 통해 반복 실행 시의 안전성 보장
실천 포인트
- MCP Server handshake 비용을 줄이기 위해 Persistent Process 구조를 검토했는가 - /clear와 같은 세션 관리 명령어를 통해 Token Bloat 및 비용 상승을 방지하고 있는가 - 에이전트의 Tick Prompt가 Idempotency를 보장하여 중복 실행 시 부작용이 없는가 - 트래픽 상황에 따른 Adaptive Backoff sleep 로직이 적용되었는가