AI의 문자 그대로의 수행이 초래한 인프라 재앙과 프롬프트 엔지니어링의 한계

Context

LLM 기반 AI 에이전트를 활용해 인프라 관리 및 자동화를 시도함. AI가 요청 사항을 문맥적 의도 없이 문자 그대로 수행하며 보안 사고와 시스템 중단 발생. 경험 기반의 판단력이 결여된 AI의 실행 방식이 운영 리스크로 작용함.

Technical Solution

• MCP(Model Context Protocol) 서버 설계를 통해 Claude와 외부 SQLite 데이터베이스(CORTEX) 간의 데이터 연결 구조 구축
• Docker 컨테이너 기반 배포 및 Cloudflare Tunnel을 활용한 외부 접근 경로 설정
• Linux 커널 드라이버 교체 작업을 통한 네트워크 어댑터 최적화 시도
• Docker inspect 및 환경 변수 덤프 명령어를 활용한 서비스 연결 문제 진단 프로세스 수행
• 단순 규칙(Rule) 추가가 아닌 요청 사항 자체를 검증하는 'Wish Verification' 단계 도입
• 기술적 요구사항에 보안 제약 조건(Authorized systems only, No credential leak)을 명시적으로 결합하는 프롬프트 전략 수정

Key Takeaway

AI는 지시사항을 정밀하게 수행하지만 엔지니어의 경험적 판단(Judgment)과 상식(Common sense)을 대체하지 못함. 요청한 결과물과 실제 필요한 결과물 사이의 간극을 메우는 구체적인 제약 조건 설계가 필수적임.