6개 AI Provider의 Reasoning 파라미터 단일 추상화 계층 설계

Context

LLM Provider별로 상이한 Reasoning 제어 파라미터(reasoning_effort, budget_tokens 등)로 인한 API 통합 복잡도 증가. Multi-provider 환경에서 모델 교체 및 A/B 테스트 시 각 사의 고유한 API 규격에 따른 분기 로직 중복 발생 및 유지보수 비용 상승.

Technical Solution

• 'low', 'medium', 'high'라는 3단계 표준 Reasoning 인터페이스를 정의한 추상화 레이어 설계
• Model Name Prefix 기반의 Provider 자동 식별 및 매핑 로직 구현
• Provider별 데이터 타입 차이(String Enum, Integer, Boolean)를 표준 인터페이스로 변환하는 Translation Layer 적용
• 파라미터 조절이 불가능한 모델(DeepSeek 등)의 경우, Reasoning 설정 시 전용 모델(deepseek-reasoner)로 요청을 자동 Rerouting 하는 전략 채택
• Qwen과 같이 단계별 조절이 없는 경우, Non-null 값 전체를 Boolean True로 매핑하는 Fallback 로직 구현
• 통합 옵션 설정을 통한 Model Swapping과 Reasoning Level 변경을 단일 라인 코드로 단순화