Prefix Caching 최적화를 통한 TTFT 480ms에서 110ms로 단축
Prefix caching in vLLM under multi-tenant agent traffic
DeepSeek Reasonix - 높은 캐싱과 낮은 비용의 DeepSeek 네이티브 코딩 에이전트
DeepSeek Prefix Caching 최적화를 통한 토큰 비용 절감 및 적중률 개선
KV Cache 최적화와 Asynchronous Pre-fetching을 통한 Local LLM 추론 지연 시간 제거
Active Page: Tackling Local AI for Transforming Passive Reading into Active Recall
Byte-Stable Prompt 설계를 통한 AI 에이전트 비용 90% 이상 절감
The boring secret to a cheap AI coding agent — a byte-stable prompt prefix
Qwen3.6-27B와 Llama.cpp 기반의 로컬 AI 코딩 에이전트 구축
Usage-based pricing killing your vibe - here's how to roll your own local AI coding agents