OpenClaw 팀이 Ollama 기반 로컬 AI 서브에이전트의 7가지 장애 패턴을 식별하고 구체적 설정 및 아키텍처 변경으로 60~90초 콜드 스타트 및 컨텍스트 오버헤드 제거

Context

로컬 Ollama 모델(7B~8B)을 AI 오케스트레이션 프레임워크의 서브에이전트로 운영할 때 모델 메모리 언로드로 인한 60~90초 콜드 스타트, ~100초의 컨텍스트 주입 오버헤드, Qwen3의 21초 추론 레이턴시 등이 2~3분 내 완료되어야 하는 작업을 초과 시간 처리하거나 실패하게 만들었다.

Technical Solution

• Ollama keep_alive 설정 변경: 기본값 5분 제한을 OLLAMA_KEEP_ALIVE=-1로 설정해 모델을 RAM에 영구 유지
• 부팅 시 모델 워밍업 자동화: cron/launchd를 통해 Ollama 재시작 후 자주 사용하는 모델(qwen3:8b, mistral:7b)에 빈 프롬프트를 전송해 RAM 적재
• RAM 예산 기반 모델 계층화: 36GB M3 Pro에서 빠른 일상 모델(8B)은 항상 hot(-1), 전문가 모델(14B, 30B)은 온디맨드(10~30분 keep_alive)로 차등 관리
• 컨텍스트 오버헤드 최소화: AGENTS.md, TOOLS.md 파일을 린한 상태로 유지하고 작업 프롬프트를 500토큰 이하로 제한, 대용량 파일 콘텐츠 대신 파일 경로 참조 지시
• Qwen3 추론 모드 비활성화: 서브에이전트 호출 시 thinking: "off" 파라미터로 21초 내부 체인오브쏘트 프로세싱 제거
• 도구 오남용 방지: 명확한 작업 프롬프팅으로 로컬 모델이 웹 검색이나 외부 API 호출 대신 질문에 직접 답변하도록 유도