Hugging Face와 Microsoft가 Azure Machine Learning Studio에 네이티브 통합된 Model Catalog를 구축해 수십 번의 클릭에서 수 초로 오픈소스 모델 배포 단계 단축

Context

Hugging Face 모델을 Azure에 배포하기 위해 기존에는 Azure Marketplace의 별도 앱을 통한 간접적인 통합만 가능했으며, 이는 프로덕션 규모의 추론 API 배포와 스케일링이 복잡하고 비용이 높은 문제를 야기했다. 또한 보안, 규정 준수, 개인정보 보호 요구사항이 있는 기업들은 자신이 관리하는 인프라에서만 모델을 배포해야 하는 제약이 있었다.

Technical Solution

• Hugging Face Hub의 200,000개 이상의 오픈소스 모델을 Azure Machine Learning Studio 내 기본 레지스트리로 통합: Model Catalog UI 제공
• 배포 프로세스 단순화: 모델 선택 → 실시간 배포 옵션 선택 → Azure 인스턴스 타입 지정 → 배포 클릭으로 구성
• managed endpoints 기반의 안전하고 확장 가능한 Azure 인프라에서 Transformer 모델 실행 환경 제공
• 작업 유형 및 라이선스 기반의 모델 필터링 기능 구현
• 배포 후 수 분 내 엔드포인트 테스트 및 추론 API를 애플리케이션에 통합 가능한 구조 구성

Key Takeaway

Azure Marketplace 앱이라는 간접 통합에서 Azure Machine Learning Studio 내 네이티브 통합으로 전환함으로써 배포 복잡성을 제거하고 보안·규정 준수 요구사항을 동시에 충족할 수 있으며, 특히 엔터프라이즈 고객의 프로덕션 환경에서 기술 스택 응집도의 증가가 사용자 경험 개선의 핵심임을 보여준다.