Persistent Session 도입을 통한 Cold Start 제거 및 고정 Review Skill 기반의 정밀 코딩 에이전트 구현

So I Made an Easy Cloud Coding Agent as an API

Critique2026년 6월 4일13분intermediate

AI 요약

Context

기존 Chained MVP 구조에서 매 요청마다 샌드박스를 새로 생성하는 Cold Start 발생 및 컨텍스트 유실 문제 직면. 이전 실행 결과를 텍스트로 복사하여 전달하는 방식의 비효율성과 메모리 파편화로 인한 개발 경험 저하 분석.

E2B Sandbox와 OpenCode Server의 생명주기를 분리하여 세션 만료 전까지 상태를 유지하는 Persistent Session 구조 설계
sessionBindings(Sandbox ID, Base URL, Session ID)를 Job 단위로 저장하여 동일 run.id 내에서 상태 유지
QStash를 통한 세션 재연결 및 OpenCode 헬스 체크 로직을 구현하여 세션 무결성 검증 후 메시지 라우팅 수행
OpenCode의 Skill System을 활용하여 임의의 프롬프트가 아닌 사전 정의된 Review Rubric을 런타임에 주입하는 구조 채택
세션 만료 또는 헬스 체크 실패 시 신규 샌드박스를 생성하는 Fallback 메커니즘을 통해 저장소 상태 오염 방지

실천 포인트

1. 에이전트 워크플로우 설계 시 상태 유지(Stateful) 필요성을 검토하고 세션 바인딩 전략 수립

2. 모델의 추론 일관성 확보를 위해 'Prompt-only' 방식에서 'Preloaded Skill' 기반의 실행 체계로 전환 검토

3. 샌드박스 기반 환경에서 상태 복구 및 헬스 체크를 포함한 Fail-safe 경로 설계

태그