Prompt 의존성을 제거한 3단계 Tool Harness 기반 AI Agent 보안 설계

Context

AI Agent 구축 시 Prompt 수준의 제약 사항 설정은 모델의 무시나 Prompt Injection 공격에 취약한 구조적 한계를 가짐. Tool 실행 권한과 행동 제어를 모델의 판단에 맡김으로써 발생하는 보안 취약점 및 낮은 신뢰성 해결이 필요함.

Technical Solution

• Tool Schema에서 user_id 등 Identity Parameter를 제거하여 Agent의 권한 임의 조작 가능성 차단
• 서버 사이드 Authenticated Session을 통한 Identity 주입으로 데이터 접근 범위(Scope) 강제 제어
• Read-before-Write와 같은 도메인 특화 행동 제약을 코드 수준에서 구현하여 모델의 비정상적 실행 흐름 방지
• Tool 호출 전 'Reason' 파라미터를 필수화하여 모델의 논리적 추론 과정 강제
• 경량 모델 기반의 별도 Validation Agent를 배치하여 Tool 호출의 타당성을 검증하는 Pre-flight 단계 구축