AWS 최적화 도구로 모델 속도 2배 향상 및 인프라 비용 90% 절감
How to Optimize Machine Learning Models on AWS
Commercial LLM의 한계를 넘는 군사 특화 Air-gapped AI 아키텍처 설계
Why AI Systems Fail in Production - And How to Fix It
FinOps 기반 AI 인프라 최적화를 통한 GPU 및 Inference 비용 효율 극대화
How FinOps is Shaping the Future of AI Cost Management
44BITSTrain High, Infer Low - 머신러닝 학습과 서빙의 FP32, FP16, BF16, INT8 정밀도 선택
머신러닝 모델의 학습과 서빙 단계에서 수치 정밀도(FP32, BF16, FP16, INT8)를 전략적으로 선택하여 메모리 50~75% 절감과 추론 속도 2~4배 향상 달성
WRITER가 Chain of Thought 학습으로 1.5B~1.7B 경량 모델 3종을 출시해 GSM8K 82.87%, AMC23 92.5% 달성
Introducing the Palmyra-mini family: Powerful, lightweight, and ready to reason!
Hugging Face가 TimmWrapper를 개발해 PyTorch Image Models의 32K개 컴퓨터 비전 모델을 Transformers 에코시스템과 통합
Timm ❤️ Transformers: Use any timm model with transformers
Google이 PaliGemma 2를 출시하여 3B/10B/28B 3가지 크기와 224x224/448x448/896x896 3가지 입력 해상도 조합으로 선택 폭 확대
Welcome PaliGemma 2 – New vision language models by Google
Microsoft가 ONNX Runtime과 Olive를 활용해 SD Turbo와 SDXL Turbo 추론 성능을 SDXL Turbo 기준 229%, SD Turbo 기준 120% 향상
Accelerating SD Turbo and SDXL Turbo Inference with ONNX Runtime and Olive