피드로 돌아가기
Dev.toInfrastructure
원문 읽기
USB 기반의 완전 격리형 Portable AI Coding Agent 구현
I built a USB drive that runs an offline AI coding agent on any laptop
AI 요약
Context
Airgapped 환경 및 보안 요구사항이 높은 시스템에서 외부 API 호출과 호스트 머신 소프트웨어 설치가 불가능한 제약 발생. 기존 Cloud 기반 AI 에이전트의 데이터 유출 위험과 호스트 의존성을 제거한 완전한 Offline 실행 환경 필요.
Technical Solution
- USB 드라이브 내 Ollama pre-built binaries 및 Model weights를 저장하여 호스트 설치 없는 독립적 Runtime 구축
- OS별 전용 런처(bat, command, sh)를 통한 Multi-platform 실행 환경 제공 및 127.0.0.1 기반 로컬 서빙
- PID 기반의 Ollama 프로세스 강제 종료 로직을 적용하여 호스트 머신의 Zero-footprint 상태 유지
- Qwen2.5-Coder, DeepSeek-Coder 등 경량 LLM을 USB-local store에 배치하여 네트워크 없는 추론 구현
- Docker 기반 CI smoke test 및 Vitest 유닛 테스트를 통한 5가지 타겟 환경의 호환성 검증
실천 포인트
1. Airgapped 환경 구축 시 Binary와 Model Store의 물리적 분리 가능성 검토
2. 호스트 오염 방지를 위한 프로세스 Lifecycle 관리 및 PID Kill 메커니즘 적용
3. 멀티 OS 지원을 위해 플랫폼별 런처 스크립트 추상화 레이어 설계