Semantic Mismatch 해결을 위한 Human-in-the-Loop 검증 설계

Context

OpenClaw와 MCP 기반의 자율 구매 워크플로우가 인터페이스의 단위 불일치(Unit Mismatch)로 인해 오작동하는 사례 발생. LLM의 논리적 추론 능력과 관계없이 외부 시스템의 불일치한 UX/UI 시맨틱으로 인해 실행 단계에서 치명적 오류가 발생하는 한계 확인.

Technical Solution

• 전 과정 자동화 대신 'Planning'과 'Cart Assembly'는 자동화하고 'Checkout' 단계에 Human Review Gate를 도입한 하이브리드 구조 설계
• MCP(Model Context Protocol)를 통한 도구 표준화로 도구 노출 방식은 최적화하되, 데이터의 의미적 해석(Semantic Understanding)은 별도 검증 로직으로 분리
• 단위 변경, 비정상적 수량 증가, 가격 변동성 등 고위험 트리거 발생 시 실행을 중단하는 requires_human_review 가드레일 함수 구현
• 민감 카테고리(의약품, 알레르기 유발 식품 등)에 대해 강제적으로 Human-in-the-Loop를 적용하는 정책 기반 필터링 도입
• Browser Automation의 취약성을 인정하고, 외부 시스템의 시맨틱 드리프트(Semantic Drift)를 방지하기 위한 명시적 확인 절차 추가