분산된 팀의 AI 추론 환경을 통합하는 Lightweight AI Gateway 아키텍처
Presentation: The AI Gateway: Scaling Centralized Inference Across Decentralized Teams
SpaceX 인프라 기반 Claude Code 사용량 제한 2배 확대
The SpaceX-Anthropic Deal Shows AI Is Becoming a Fight Over GPUs and Power
AI Eval 비용 폭증에 따른 Compute Bottleneck 발생과 최적화 전략
AI evals are becoming the new compute bottleneck
FinOps 기반 AI 인프라 최적화를 통한 GPU 및 Inference 비용 효율 극대화
How FinOps is Shaping the Future of AI Cost Management
Claude Mythos Preview, 전문가급 CTF 73% 성공 및 TLO 32단계 완전 정복
Evaluation of Claude Mythos Preview's cyber capabilities
Meta EngineeringMeta가 적응형 순위 모델을 활용해 LLM 규모의 추천 시스템을 100ms 지연 시간으로 서빙하는 추론 효율화 기법을 공개했다
Meta Adaptive Ranking Model: Bending the Inference Scaling Curve to Serve LLM-Scale Models for Ads