4-bit Quantization 기반 Llama-3의 iPhone On-Device AI 구현
Forget the Cloud: Building a Privacy-First AI Health Coach with Llama-3 and MLC-LLM on Your iPhone
Rust 기반 Native Binary 설계를 통한 50ms 응답 속도의 Agent-agnostic 워크스페이스 구현
Superconductor review: the cleanest way I've found to run AI agents in parallel
Mac Catalyst 및 Metal 기반의 Native macOS 빌드 타겟 구현
Your Codename One App, Now A Native Mac App
Zig 기반 Metal 렌더링으로 Keystroke Latency 5ms 달성한 Ghostty 분석
Ghostty 1.0 vs Warp OSS vs WezTerm: 14 Days of Daily Use — Real Latency, Memory, and Workflow Numbers
Google Gemma 4, iPhone에서 완전 오프라인 AI 추론 지원
iPhone GPU 기반 Gemma 4 추론 실현 및 Prefill 231t/s 달성
저자가 llama.cpp RPC를 활용하여 이기종 GPU 환경(NVIDIA DGX Spark와 Mac Studio)에서 10GbE 직접 연결 기반 분산 LLM 추론을 구현한 과정과 성능 결과를 기술함
Distributed LLM Inference Across NVIDIA Blackwell and Apple Silicon Over 10GbE
iOS/macOS 개발자가 Metal 기반의 Swift 이미지 처리 라이브러리 Harbeth를 개발해 GPU 가속 렌더링과 직관적 API로 실시간 처리 구현
🚀 Harbeth: High-Performance Swift Image Processing Library
Apple Silicon MacBook Pro에서 C/Metal 기반 추론 엔진으로 397B 파라미터 MoE 모델을 4.4+ tokens/second 속도로 실행
Flash-MoE: Running a 397B Parameter Model on a Laptop