Pydantic 기반 Schema Validation을 통한 LLM Structured Output 보장

Context

LLM의 Next Token Prediction 특성으로 인한 응답 비결정성 및 포맷 불일치 문제 발생. 특히 Markdown Fence나 불필요한 설명 텍스트 포함으로 인한 API 파싱 에러 및 시스템 불안정성 상존.

Technical Solution

• Pydantic Model을 통한 출력 데이터 타입 및 제약 조건의 명시적 정의
• 정의된 모델 기반의 JSON Schema를 LLM Request에 포함하여 응답 가이드라인 제공
• LLM 응답 값을 Pydantic Model로 매핑하여 런타임 데이터 유효성 검증 수행
• Validation 실패 시 에러 메시지를 LLM에 다시 피드백하여 스스로 교정하게 하는 Self-Correction Retry Loop 구현
• OpenAI, Anthropic, Gemini 등 다양한 LLM Provider를 추상화한 Client Patching 구조 채택
• Literal 및 Optional 타입을 활용한 데이터 도메인 제한 및 Nullable 필드 제어