K8s GPU 낭비 20~40% 제거를 위한 Model-aware 모니터링 설계
How to Detect GPU Waste in a Kubernetes Cluster
Compute-bound에서 Memory-bound로의 관점 전환을 통한 AI Scaling 최적화
The Hidden Side of AI Nobody Talks About...
GPU 활용도 극대화를 위한 S3 호환 Object Storage 기반 AI 스토리지 최적화
Breaking your AI storage bottlenecks
17개 클라우드 대상 GPU 에너지 이상 징후 탐지 및 자동 최적화 스택 구축
Title: I Built a Production GPU Energy Optimizer in One Day — From My Phone
Vulkan 기반 GPU 가속으로 4K 파일 오픈 속도 23배 개선
The Story of VLC: How a Traffic Cone Took Over the World
Token 기반 비용 변동성 제어를 위한 AI 특화 FinOps 거버넌스 체계 구축
FinOps for AI: Controlling Generative AI Costs, Tokens, and GPU Spend
Hourly Price 함정 탈피를 통한 실질 Compute Cost 2배 절감 전략
I thought I found a cheap H100. I was wrong.
인스턴스 최적화 및 Inferentia2 도입으로 GPU 비용 최대 65% 절감
AI GPU Cost Audit for Indian AI Startups: H100, Inferentia2 & Spot Economics (2026)
AI 운영 효율 극대화를 위한 FinOps와 MLOps의 전략적 균형 설계
FinOps for AI vs MLOps: Understanding the Roles in AI Operations
Spot Instance 및 Mixed Precision 기반 GPU 비용 최대 90% 절감 전략
Training ML Models on Cloud GPUs: Cost Optimization Tips
FinOps 기반 AI 인프라 최적화를 통한 GPU 및 Inference 비용 효율 극대화
How FinOps is Shaping the Future of AI Cost Management
TTFC 35초에서 50ms로, CUDA Megakernel 기반 Qwen3-TTS 최적화
I Made a Single CUDA Kernel Speak: Streaming Qwen3-TTS at 50ms Latency on an RTX 5090
70B 모델 1M 토큰 컨텍스트, 단일 H100 GPU 구현 전략
Running 1M-token context on a single GPU (the math)
IBM, Red Hat, Google Cloud가 CNCF Sandbox에 기증한 llm-d가 Disaggregated Serving와 Hierarchical KV Cache Offloading으로 Kubernetes 환경의 GPU 활용도를 혁신한다
Complete Guide to llm-d CNCF Sandbox — Kubernetes-Native Distributed LLM Inference
Hugging Face가 kernel-builder 라이브러리를 통해 커스텀 CUDA 커널 개발 및 배포 프로세스를 표준화하고 PyTorch 네이티브 연산으로 등록 가능하게 구현
From Zero to GPU: A Guide to Building and Scaling Production-Ready CUDA Kernels
TNG가 LLM 추론 엔진에 청크 프리필 기법을 도입해 총 토큰 처리량을 50% 증가시킨 사례
Prefill and Decode for Concurrent Requests - Optimizing LLM Performance
Hugging Face가 HUGS(Generative AI Services)를 출시해 오픈 모델의 추론 배포 시간을 주 단위에서 분 단위로 단축
Introducing HUGS - Scale your AI with Open Models
Microsoft가 ONNX Runtime과 Olive를 활용해 SD Turbo와 SDXL Turbo 추론 성능을 SDXL Turbo 기준 229%, SD Turbo 기준 120% 향상
Accelerating SD Turbo and SDXL Turbo Inference with ONNX Runtime and Olive