AWS 최적화 도구로 모델 속도 2배 향상 및 인프라 비용 90% 절감
How to Optimize Machine Learning Models on AWS
FSx와 Karpenter 기반 AWS ML 인프라 구축으로 학습 시간 90% 단축
AI/ML Infrastructure on AWS: A Production-Ready Blueprint
Terraform 기반 SageMaker Endpoints 구축을 통한 Zero-downtime ML 배포 체계 구현
SageMaker Endpoints: Deploy Your Model to Production with Terraform 🚀
Hugging Face와 AWS가 협력하여 DeepSeek-R1 모델을 Inference Endpoints, Amazon Bedrock, SageMaker AI, EC2 Neuron 등 4가지 배포 방식으로 프로덕션 환경에 적용 가능하게 구성
How to deploy and fine-tune DeepSeek models on AWS
리디 추천 시스템, MLOps Platform에 올라탈 결심
리디가 AWS SageMaker를 도입해 모델 학습·추론 파이프라인 기술 스택을 간소화하고 학습-추론 분리를 통해 운영 자동화 실현
Hugging Face가 AWS Inferentia2 칩 지원을 SageMaker와 Inference Endpoints에 통합해 100,000개 이상의 모델 배포 가능
Deploy models on AWS Inferentia2 from Hugging Face
Hugging Face가 Text Generation Inference를 AWS Inferentia2에 통합해 GPU 대비 비용 효율적인 LLM 프로덕션 배포 환경 제공
Hugging Face Text Generation Inference available for AWS Inferentia2
Hugging Face Transformers와 AWS Inferentia를 결합하여 BERT 추론 레이턴시를 5-6ms로 단축하고 GPU 대비 80% 비용 절감
Accelerate BERT inference with Hugging Face Transformers and AWS Inferentia
Amazon SageMaker와 Hugging Face Transformers를 통해 GPT-J 6B의 모델 로드 시간을 210초에서 7.7초로 단축해 프로덕션 배포 가능 수준으로 개선
Deploy GPT-J 6B for inference using Hugging Face Transformers and Amazon SageMaker
Hugging Face와 Amazon이 SageMaker용 Deep Learning Containers를 개발하여 Transformer 모델 학습 설정 시간을 수일에서 수분으로 단축
The Partnership: Amazon SageMaker and Hugging Face