피드로 돌아가기
Dev.toAI/ML
원문 읽기
Context Window 확장이 아닌 Continuity 중심의 상태 유지 설계로 Agent Cold Start 해결
Maybe Coding Agents Don't Need a Bigger Memory. Maybe They Need Continuity.
AI 요약
Context
LLM 기반 Coding Agent가 세션 간 상태를 유지하기 위해 단순히 Context Window를 확장하거나 Vector DB 기반의 Memory를 사용하는 방식의 한계 분석. 단순 기억의 누적은 정보의 노이즈를 증가시켜 Agent가 최신 상태와 검증된 사실을 구분하지 못하는 'Junk Drawer' 문제를 야기함.
Technical Solution
- 단순 Recollection(회상) 방식에서 Handoff(인수인계) 중심의 Continuity Record 구조로 전환
- 단순 요약본 생성 대신 Task, Edited Files, Run Command, Result, Known Failure, Next Action을 포함한 정형화된 상태 기록 설계
- Static Instruction(레포지토리 규칙)과 Dynamic Work State(진행 중인 작업 상태)를 분리하여 관리하는 이원화 전략 채택
- 무분별한 데이터 축적이 아닌 Reuse 최적화를 위한 Pruning(가지치기) 로직을 통해 최소한의 Operational State 유지
- 세션 종료 시점에 검증된 증거(Evidence-weighted) 기반의 상태 정보를 Repository-local 형태로 저장하여 세션 간 연속성 확보
실천 포인트
1. Agent 설계 시 '모든 것을 기억'하는 Prompt보다 '다음 단계에 필요한 최소 상태'를 정의하는 Handoff 구조를 설계했는가?
2. Vector DB의 유사도 검색 결과와 실제 실행 결과(Success/Fail)를 명확히 구분하여 가중치를 부여하고 있는가?
3. 정적인 프로젝트 가이드라인(README 등)과 동적인 작업 진행 상태(Current State)를 분리하여 주입하고 있는가?
4. 상태 저장 시 데이터의 신선도(Freshness)를 판단하고 오래된 가설을 제거하는 Pruning 메커니즘이 존재하는가?