Markdown 기반 Context 계층화를 통한 LLM Agent의 Token 소모 95% 절감 및 운영 자동화
I Let an AI Agent Live on My VPS for Three Weeks
AI 요약
Context
다수의 Docker 컨테이너가 분산된 VPS 환경에서 발생하는 단순 반복적 시스템 관리 업무와 3am-pager 문제의 병목 지점 파악. SSH를 통한 수동 진단 및 복구 프로세스로 인한 높은 운영 공수와 컨텍스트 스위칭 비용 발생.
Technical Solution
- Docker 기반 Agent Runtime을 도입하여 Bash Shell 스크립트 실행 권한을 부여한 자동화 인터페이스 구축
- 단순 챗봇을 넘어 15종의 전용 Shell Script(docker-status, db-query 등)를 Tool로 매핑하여 구체적인 시스템 제어 능력 확보
- 무분별한 Disk Grepping으로 인한 Token 낭비를 막기 위해 Project Map, Project-specific CLAUDE.md, Global USER.md로 이어지는 3단계 Markdown Context Hierarchy 설계
- Heartbeat Mode 설정을 통해 5xx 에러 감지 시 자동 Container Restart 및 사후 보고를 수행하는 Self-healing 루프 구현
- 사용자 ID 기반 Whitelist 적용 및 Telegram Bot API를 통한 보안 인터페이스 계층 구성
실천 포인트
["Agent\uc5d0\uac8c \uc804\uccb4 \ud30c\uc77c \uc2dc\uc2a4\ud15c \uc811\uadfc \uad8c\ud55c\uc744 \uc8fc\uae30 \uc804, \uae30\ub2a5\ubcc4\ub85c \ucea1\uc290\ud654\ub41c Shell Script Toolset\uc744 \uba3c\uc800 \uc815\uc758\ud588\ub294\uac00", "LLM\uc774 \ud0d0\uc0c9\ud574\uc57c \ud560 \uc815\ubcf4\uc758 \ubc94\uc704\ub97c \uc881\ud600\uc8fc\ub294 \uacc4\uce35\uc801 \uba54\ud0c0\ub370\uc774\ud130(Project Map \ub4f1)\uac00 \uc124\uacc4\uc5d0 \ud3ec\ud568\ub418\uc5c8\ub294\uac00", "Self-healing \ub85c\uc9c1 \ub3c4\uc785 \uc2dc, \ub2e8\uc21c \uc7ac\uc2dc\uc791\uc774 \uc544\ub2cc Root Cause \ubd84\uc11d \uacb0\uacfc\uac00 \ud3ec\ud568\ub41c \uc54c\ub9bc \uccb4\uacc4\ub97c \uac16\ucd94\uc5c8\ub294\uac00", "\uc6b4\uc601 \ud658\uacbd\uc758 Threat Model\uc744 \ubd84\uc11d\ud558\uc5ec Sandbox \uc801\uc6a9 \uc5ec\ubd80 \ubc0f \uc811\uadfc \uc81c\uc5b4(Whitelist)\ub97c \uc124\uc815\ud588\ub294\uac00"]