Kubernetes 기반 vLLM 배포를 통한 OpenAI 호환 LLM API 구축
Your First LLM API on Kubernetes: From Model to Curl Request
GPU Utilization 30-45% 한계 극복을 위한 K8s 스케줄링 재설계
AI Workloads Are Reshaping Kubernetes in 2026: GPU Scheduling, MLOps, and the Platform Engineering Reckoning
유휴 Inference GPU Pool을 이용한 GPU Job 스케줄링
vLLM 지표 기반 유휴 GPU 재활용으로 3개월간 1.85억 원 비용 절감
HPC Cluster 기반 Distributed Computing을 통한 AI 모델 학습 가속화
How HPC Clusters Accelerate AI/ML Training
Workload Definition 분리로 GPU Vendor Lock-in 및 운영 공수 완전 제거
How I used Launch Templates to deploy AI workloads elastically across GPU providers and finally avoided vendor lock-in
RollingUpdate의 GPU 점유 교착 상태를 Recreate 전략으로 해결
Ollama on Kubernetes: Recreate Strategy and Single-GPU Deadlock
NVIDIA가 Disaggregated Inference 패턴 지원을 위해 Grove를 개발해 Kubernetes의 AI 추론 워크로드 멀티레벨 오토스케일링 구현
Orchestrating Kubernetes AI Inference Workloads with NVIDIA Grove — From DRA GA to KAI Scheduler Integration
Microsoft가 KubeCon 2026에서 Kubernetes 네이티브 GPU 스케줄링(DRA GA), 모델 배포 추상화(AI Runway), Sidecar 제거 보안(Cilium mTLS)을 발표해 AI 인프라 통합 플랫폼으로의 진화 가속
Microsoft at KubeCon 2026 — DRA GA, AI Runway, and Kubernetes as AI Infrastructure OS
Hugging Face TRL이 RapidFire AI를 통합해 LLM 파인튜닝 설정 비교 속도를 16~20배 단축
20x Faster TRL Fine-tuning with RapidFire AI