LLM Provider 간 Structured Output 호환성 격차 해결을 위한 Schema Gateway 설계

Context

LLM Provider마다 서로 다른 Structured Output 구현 방식에 따른 낮은 이식성 문제 발생. 단순한 Schema 변경이 특정 Provider에서만 작동하지 않는 런타임 오류를 유발하는 한계 존재.

Technical Solution

• 단일 Schema를 각 Provider 전용 Request Shape로 변환하는 컴파일 로직 구현
• Baseline Schema와 Candidate Schema 간의 차이점을 분석하는 Diffing 메커니즘 도입
• Provider별 제약 사항을 사전에 검증하는 Portability Linting 프로세스 적용
• 서로 다른 응답 형식을 표준 Schema로 통일하는 Payload Normalization 계층 설계
• OpenAI, Gemini, Anthropic, Ollama 등 멀티 Provider 환경의 Edge Case 대응 구조 확보