Hugging Face가 Featherless AI를 Inference Provider로 통합해 500개 이상의 오픈소스 모델을 서버리스 가격으로 제공

Context

Inference Provider 생태계는 저비용 접근성과 무제한 모델 범위 중 하나만 선택해야 했다. 기존 제공자들은 제한된 모델 카탈로그로 저비용을 제공하거나, 무제한 모델을 제공하되 사용자가 서버를 관리하고 운영 비용을 부담해야 했다.

Technical Solution

• Featherless AI 기반 Inference Provider 통합: DeepSeek, Meta, Google, Qwen의 최신 오픈소스 모델을 Hub 모델 페이지에서 직접 호출 가능하도록 구현
• 이중 인증 체계 도입: 사용자 API 키로 직접 호출(Custom key 모드) 또는 Hugging Face 계정을 통한 라우팅(Routed by HF 모드) 지원
• Python/JavaScript SDK 통합: huggingface_hub v0.33.0 이상과 @huggingface/inference에서 provider="featherless-ai" 파라미터로 provider 선택 가능
• 사용자 설정 UI 제공: 계정 설정에서 각 provider별 API 키 설정 및 provider 우선순위 조정 가능
• 청구 투명성 구현: Custom key 사용 시 provider 계정으로 직접 청구, 라우팅 사용 시 Hugging Face 계정으로 청구하되 provider 정가 그대로 적용

Key Takeaway

Inference Provider 생태계에서 서버리스 가격 모델과 광범위한 모델 지원을 동시에 제공하려면, 사용자 인증 방식을 이중화하고 청구 경로를 투명하게 분리하는 설계가 필수다.