nginx 내 zstd 압축 지원을 통한 데이터 전송 효율 최적화
Adding zstd support to nginx
기존 KV 압축 기법 대비 최대 25% 추가 절감, 성능은 오히려 개선 — CASK
Role-based KV Cache 구조 설계를 통한 메모리 25% 추가 절감 및 추론 성능 향상
Gzip·Brotli 압도, 학습형 슬라이딩 윈도우 기반 GN 압축 전략
GN Beats Gzip and Brotli: How a Learning Sliding Window Outperforms Static Compressors
TsFile, HDF5 대비 저장 공간 85% 절감(18TB→2.2TB), 압축률 8배 향상
HDF5 vs. TsFile: Efficient Time-Series Data Storage
ContextZip이 ANSI 애니메이션 코드를 제거해 AI 컨텍스트 윈도우에서 npm install 출력을 99% 압축
ANSI Spinners, Progress Bars, Decorations — All Gone
구글 TurboQuant: 극한 압축으로 AI 효율성을 재정의하다
Google TurboQuant가 기하학적 회전과 극한 양자화를 결합해 KV 캐시를 극단적으로 압축하는 기법 제안
498Advance가 Fallback Policy, Router Shadow, Local Model 배포, TurboQuant 압축 기법을 조합해 LLM 운영 비용 절감 및 6배 KV 캐시 메모리 감소 달성
From expensive tokens to intelligent compression: how we optimize LLM costs in production
Ziptable — 소규모 데이터셋을 링크 하나로 공유하는 도구
Ziptable이 URL 프래그먼트에 압축된 데이터를 직접 인코딩하여 서버 없이 브라우저 기반 데이터 공유 구현
NVIDIA가 KVPress 툴킷으로 KV Cache 압축 기법을 제공해 1M 토큰 처리 시 메모리 사용량 327.6GB에서 유의미한 수준으로 감소
Mastering Long Contexts in LLMs with KVPress
Node.js가 11.7.0 릴리스에서 brotli 압축 지원, Worker API 기본 활성화, ArrayBuffer 검사 개선 등 8개 모듈 업그레이드로 개발자 경험 확대
Node.js 11.7.0 (Current)