Harness-Outside-Sandbox 설계로 보안 강화 및 25ms 샌드박스 복구 구현

Context

LLM 에이전트의 루프를 담당하는 Harness를 샌드박스 내부에 배치하는 기존 구조는 세션 유지 비용과 보안 취약점이라는 한계를 가짐. 특히 다수 사용자가 자원을 공유하는 Multi-user 환경에서 로컬 파일시스템 기반의 상태 관리 방식은 확장성 저해 요소로 작용함.

Technical Solution

• Harness를 백엔드로 분리하여 API 키 및 DB 액세스 권한을 샌드박스로부터 격리한 보안 구조 설계
• Inngest를 통한 Durable Execution 구현으로 서버 재시작 및 배포 중에도 에이전트 루프 상태를 유지하는 체크포인트 메커니즘 도입
• Blaxel을 활용하여 유휴 상태의 샌드박스를 일시 중단하고 필요 시에만 활성화하는 효율적 라이프사이클 관리
• 가상화 인터페이스 계층을 구축하여 LLM이 학습한 로컬 파일시스템 경로(/skills, /memory)를 백엔드 DB 시맨틱으로 매핑
• Tree-sitter 기반의 Bash 명령어 파싱을 통해 가상화 네임스페이스에 대한 무단 접근을 차단하는 가드 레일 설치

Impact

• Blaxel 도입을 통해 샌드박스 재개 시간을 25ms 수준으로 단축하여 사용자 체감 지연 시간 제거

Key Takeaway

에이전트의 실행 환경(Sandbox)과 제어 루프(Harness)를 분리함으로써 상태 관리의 유연성과 보안성을 동시에 확보할 수 있으며, 모델의 학습 데이터와 일치하는 인터페이스를 유지하되 내부 구현만 가상화하는 전략이 유효함.