Hugging Face가 VAE 디코딩을 원격 엔드포인트로 위임하는 기능을 Diffusers에 추가해 소비자 GPU의 메모리 부담 제거
Remote VAEs for decoding with Inference Endpoints 🤗
Hugging Face가 Speech-to-Speech 파이프라인을 Inference Endpoints에 배포하기 위해 커스텀 Docker 이미지를 구축해 GPU 기반 음성 처리 서비스 운영
Deploying Speech-to-Speech on Hugging Face
Google과 Hugging Face가 TPU v5e를 Inference Endpoints와 Spaces에 통합하여 LLM 배포 시 GPU 대비 비용 효율적인 추론 인프라 제공
Google Cloud TPUs made available to Hugging Face users
Prezi가 Hugging Face Expert Support Program에 참여해 오픈소스 재랭킹 모델을 도입함으로써 이미지·텍스트 검색 성능을 LLM 대비 더 빠르고 저비용으로 달성
Going multimodal: How Prezi is leveraging the Hub and the Expert Support Program to accelerate their ML roadmap
Hugging Face가 Inference Endpoints에 custom handler를 추가하여 transformers pipeline을 지원하지 않는 MusicGen 모델을 클릭 몇 번만으로 배포 가능하게 구현
Deploy MusicGen in no time with Inference Endpoints
Hugging Face Inference Endpoints로 Falcon 40B 같은 오픈소스 LLM을 수 클릭으로 프로덕션 API로 배포하고 자동 스케일링으로 미사용 시 비용 제거
Deploy LLMs with Hugging Face Inference Endpoints
Hugging Face가 Inference Endpoints 서비스 출시로 ML 모델 배포 시 컨테이너 패킹·인프라 구성·API 보안·스케일링 작업을 제거
Getting Started with Hugging Face Inference Endpoints