피드로 돌아가기
Jibun Corp's AI Hub Reaches 35 Providers: Adding SiliconFlow and Novita AI
Dev.toDev.to
AI/ML

OpenAI-Compat 표준 기반 Provider 35개 확장 및 통합 Hub 설계

Jibun Corp's AI Hub Reaches 35 Providers: Adding SiliconFlow and Novita AI

kanta13jp12026년 4월 18일2intermediate

Context

다양한 AI 모델 제공자의 API 명세 파편화로 인한 통합 관리 비용 증가 문제 발생. 개별 Provider 추가 시마다 반복되는 핸들러 구현과 파싱 로직의 중복 제거 필요성 대두.

Technical Solution

  • OpenAI API Standard를 인터페이스 기본 규격으로 채택하여 Provider 간 호환성 확보
  • 공통 요청 바디 생성 함수(OPENAI_COMPAT_BODY)를 통한 Request 구조 표준화
  • 표준 응답 파싱 로직(OPENAI_COMPAT_PARSE)을 통한 Response 처리 단일화
  • 신규 Provider 추가 시 로직 수정 없이 Config 블록 정의만으로 확장 가능한 플러그인 구조 설계
  • 비용 효율성 극대화를 위해 SiliconFlow(Free Tier) 및 Novita AI(Pay-as-you-go)의 특성을 반영한 Provider 선정

외부 API 통합 시 개별 SDK 의존성을 낮추고 표준 규격 기반의 Adapter 패턴을 적용하여 벤더 종속성 제거 및 확장성 검토

원문 읽기