피드로 돌아가기
DeepSeek's Response API Isn't OpenAI Responses. That One Parser Mistake Drops the Reasoning.
Dev.toDev.to
AI/ML

DeepSeek V4 도입 시 reasoning_content 파싱 누락으로 인한 추론 성능 저하 방지

DeepSeek's Response API Isn't OpenAI Responses. That One Parser Mistake Drops the Reasoning.

tokenmixai2026년 6월 27일6intermediate

Context

OpenAI Chat Completions API와의 호환성에 의존하여 DeepSeek를 통합하는 과정에서 발생하는 파싱 오류 분석. 단순 content 필드만 추출하는 기존 Wrapper 구조로 인해 모델의 핵심인 reasoning_content 데이터가 유실되는 문제 발생.

Technical Solution

  • OpenAI Responses API가 아닌 Chat Completions 레이어의 호환성을 기반으로 한 명시적 파서 설계
  • choices[0].message.reasoning_content 필드를 개별적으로 추출하여 Chain-of-Thought 데이터 보존
  • Tool-call 워크플로우 내에서 중간 추론 과정(reasoning_content)을 다음 요청에 다시 포함시키는 상태 유지 로직 구현
  • deepseek-chat/reasoner 등 구형 Alias 대신 deepseek-v4-flash/pro 모델 ID를 사용하여 2026년 7월 deprecation 대응
  • 단일 엔드포인트 라우터를 통한 모델 전환 유연성 확보 및 Fallback 구조 설계

Impact

  • V4 Flash 모델 사용 시 10M input/2M output 기준 비용 약 $1.85로 V4 Pro($5.87) 대비 약 68% 비용 절감 가능

Key Takeaway

API 호환성은 요청 전달의 편의성만 제공할 뿐이며, 공급자별 특화 필드(Provider-specific fields)를 명시적으로 처리해야 시스템의 전체 성능과 디버깅 가능성을 보장함.


- DeepSeek V4 통합 시 reasoning_content 필드 파싱 여부 확인 - Tool-call 사용 시 이전 턴의 reasoning_content를 요청 본문에 포함하는지 검증 - 신규 프로젝트에서 deepseek-v4-flash 또는 deepseek-v4-pro 모델 ID 사용 - 비용 최적화를 위해 Flash 모델 우선 적용 후 Eval 결과에 따라 Pro로 확장

원문 읽기