Rails 기반 Deterministic Routing과 Async Eval 파이프라인을 통한 LLM 배포 안정성 확보
Ruby is all you need (Part II)
TensorFlow Java API를 통한 Java 기반 ML 모델 구축 및 배포 파이프라인 확보
TensorFlow Getting Started Tutorial for Java Developers 2026
Microsoft와 Hugging Face가 Azure AI Foundry에 10,000개 이상의 Hugging Face 모델을 통합하여 엔터프라이즈급 오픈 모델 배포 간소화
Microsoft and Hugging Face expand collaboration
Hugging Face와 AWS가 협력하여 DeepSeek-R1 모델을 Inference Endpoints, Amazon Bedrock, SageMaker AI, EC2 Neuron 등 4가지 배포 방식으로 프로덕션 환경에 적용 가능하게 구성
How to deploy and fine-tune DeepSeek models on AWS
Hugging Face가 FriendliAI의 추론 인프라를 Hub에 통합해 모델 배포 시 NVIDIA H100 GPU에서 1-클릭 배포 지원
Hugging Face and FriendliAI partner to supercharge model deployment on the Hub
AWS가 Hugging Face의 83개 오픈 모델을 Amazon Bedrock Marketplace에 통합해 SageMaker JumpStart 엔드포인트를 Bedrock APIs와 호환되도록 제공
Hugging Face models in Amazon Bedrock
Google과 Hugging Face가 TPU v5e를 Inference Endpoints와 Spaces에 통합하여 LLM 배포 시 GPU 대비 비용 효율적인 추론 인프라 제공
Google Cloud TPUs made available to Hugging Face users
Hugging Face와 Dell이 Dell Enterprise Hub를 출시해 온프레미스에서 오픈 모델 학습 및 배포에 소요되는 엔지니어링 작업을 수 주에서 수 분으로 단축
Build AI on premise with Dell Enterprise Hub
Hugging Face가 Inference Endpoints에 custom handler를 추가하여 transformers pipeline을 지원하지 않는 MusicGen 모델을 클릭 몇 번만으로 배포 가능하게 구현
Deploy MusicGen in no time with Inference Endpoints
Hugging Face가 Text Generation Inference 기반 LLM 추론 컨테이너를 Amazon SageMaker에 도입해 오픈소스 LLM의 배포·서빙 프로세스 단순화
Introducing the Hugging Face LLM Inference Container for Amazon SageMaker
Hugging Face와 Microsoft가 Azure Machine Learning Studio에 네이티브 통합된 Model Catalog를 구축해 수십 번의 클릭에서 수 초로 오픈소스 모델 배포 단계 단축
Hugging Face Collaborates with Microsoft to launch Hugging Face Model Catalog on Azure
Hugging Face와 AWS가 전략적 파트너십으로 Amazon SageMaker, AWS Trainium, AWS Inferentia를 통해 개발자의 ML 모델 학습·배포 접근성 향상
Hugging Face and AWS partner to make AI more accessible
Hugging Face가 Inference Endpoints 서비스 출시로 ML 모델 배포 시 컨테이너 패킹·인프라 구성·API 보안·스케일링 작업을 제거
Getting Started with Hugging Face Inference Endpoints
Google Cloud가 Vertex AI 플랫폼을 사용하여 Vision Transformer 모델을 Kubernetes 대비 코드량 대폭 감소로 배포
Deploying 🤗 ViT on Vertex AI
Hugging Face가 TensorFlow Vision 모델을 TF Serving으로 배포할 때 전처리/후처리를 SavedModel에 내장하여 개발자의 인지 부하와 학습-서빙 스큐 감소
Deploying TensorFlow Vision Models in Hugging Face with TF Serving
Hugging Face Infinity가 Intel Ice Lake CPU 기반 최적화로 Vanilla Transformers 대비 처리량 800% 향상 및 1-4ms 레이턴시 달성
Case Study: Millisecond Latency using Hugging Face Infinity and modern CPUs
Hugging Face가 Gradio 통합으로 Hub 모델을 Inference API를 통해 몇 줄의 코드로 데모화하고, Spaces에서 무료 호스팅 가능하게 구현
Showcase Your Projects in Spaces using Gradio
Hugging Face와 Amazon이 SageMaker용 추론 DLC를 출시해 Transformer 모델을 한 줄의 코드로 배포 가능하게 구현
Deploy Hugging Face models easily with Amazon SageMaker
Gradio 2.0이 1줄의 코드로 Hugging Face 모델을 GUI 인터페이스로 로드 및 데모 가능하도록 지원
Using & Mixing Hugging Face Models with Gradio 2.0