Schema 기반 제어와 Human-in-the-loop 설계를 통한 AI Agent Write 권한 안전 확보

Context

AI Agent에게 Shopify 스토어의 Write 권한 부여 시 Hallucination으로 인한 비즈니스 손실 위험 존재. 단순한 Prompt 지시만으로는 수치 제어나 실행 취소가 불가능한 Irreversible Action을 통제하는 데 한계가 있음.

Technical Solution

• Token 기반 Read-only 기본 설정 및 Write 권한의 명시적 Opt-in 구조 설계
• Prompt가 아닌 Server-side Tool Schema에 Zod 등을 활용한 하드 캡(Hard Ceiling) 적용으로 비정상 수치 입력 차단
• Action의 가역성(Reversibility)에 따른 권한 분리 및 Irreversible Action의 경우 'Draft' 단계에서 멈추는 Human-in-the-loop 아키텍처 도입
• Free-text 입력을 배제한 Typed Tools 적용을 통해 런타임 에러를 Schema Validation 단계에서 조기 발견
• 모든 Agent Call에 대한 Argument, Token, Timestamp를 포함한 Audit Trail 구축으로 비정상 루프 및 동작 추적 가능성 확보