LLM 신뢰성 확보를 위한 구조적 System Prompt 설계 패턴

Context

단순 모델 교체만으로는 해결되지 않는 AI Agent의 일관성 부족과 Tool call 오류 문제 분석. 모델의 추론 능력보다 이를 제어하는 System Prompt의 구조적 설계가 Production 환경의 안정성을 결정하는 핵심 요인임을 정의.

Technical Solution

• Expert Role과 Explicit Scope 설정을 통한 도메인 경계 획정 및 의도치 않은 행동 범위 제한
• Calibrated Confidence 패턴 도입으로 불확실성 상황에서 Hallucination을 억제하는 명시적 행동 경로 설계
• Persona Consistency Lock 적용을 통한 Jailbreak 방지 및 장기 대화 내 Identity 유지
• JSON Schema Lock 및 Format Precedence Declaration을 통한 Downstream 시스템 연동을 위한 출력 규격 강제
• Tool Selection Logic 내 Verbalization 단계 추가로 Tool 호출 전 추론 과정을 명시화하여 선택 오류 감소
• Role, Confidence, Format, Tool Logic 등 7단계 계층 구조를 가진 Production Scaffold Template 적용