Memory Consolidation을 통한 LLM Context 효율 극대화 및 Noise 제거
Claude Code Dreaming - What /dream Actually Does for Your Memory
비선형 활성화 함수와 Attention 기반의 고차원 데이터 피팅 아키텍처 분석
Neural Networks: A Broad Overview
HBM 읽기 비용 최적화를 통한 LLM 추론 비용 및 속도 결정 구조 분석
Why does paying more make your LLM reply faster?
Transformer 기반 Next-token Prediction을 통한 범용 언어 생성 아키텍처 구현
How Large Language Models Work — From Transformers to Conversational AI
Context Rot 해결을 위한 토큰 버짓 기반의 Upstream Context 최적화 설계
Claude Code Context Window Rot: Why Sessions Get Dumber (And How to Fix It)
CLAUDE.md 가이드라인 분리를 통한 코드 품질 79%에서 96.9%로 향상
200 Lines in CLAUDE.md Dropped My Code Quality to 79% — Splitting into 3 Files Got It to 96.9%
DeepSeek V4 – 프런티어에 거의 근접했고 가격은 훨씬 저렴
HCA/mCH 도입으로 KV 캐시 90% 절감 및 추론 비용 혁신
Target Marking 기법을 통한 Gemini 로그 진단 정확도 및 정밀도 향상
Prompt Engineering for Log Diagnosis — What Actually Works With Gemini
O(n²) Attention 비용 낭비 해결을 위한 SSM 기반 메모리 시스템 설계
The Context Window Lie: Why Your LLM Remembers Nothing
KV Cache 저장 용량 98% 절감에도 Latency는 73% 증가한 설계의 함정
A Smaller KV Cache Did Not Make Transformers Faster
Rule-Skill 분리를 통한 AI 컨텍스트 최적화 및 Prompt Caching 효율 극대화
How Rules and Skills Actually Work in Claude Code
Dot Product 기반의 벡터 유사도 산출을 통한 AI 및 추천 시스템의 정량적 설계
The Dot Product: How AI Measures Similarity
Fixed-size Vector 압축 한계를 극복한 Attention 기반 Dynamic Context 참조 설계
Attention Mechanisms: Stop Compressing, Start Looking Back
Context Window 최적화를 통한 LLM 추론 효율성 및 정확도 극대화
Stop Overloading Your CLAUDE.md — Simplicity Wins (and Saves Tokens)
Long-Horizon Task 정복을 위한 GLM-5.1의 추론 최적화 전략
GLM-5.1: Towards Long-Horizon Tasks
Attention 메커니즘에서 Cosine Similarity 대신 Dot Product를 선호하는 이유와 그 실무적 근거
Cosine Similarity vs Dot Product in Attention Mechanisms
Attention 메커니즘에서 Cosine Similarity 계산을 Dot Product로 단순화하여 분모 제거로 연산 복잡도 감소
Understanding Attention Mechanisms – Part 3: From Cosine Similarity to Dot Product
Snowflake AI Research가 Ulysses Sequence Parallelism으로 어텐션 헤드를 GPU 간 분산 처리하여 64K 토큰에서 3.7배 처리량 증가 달성
Ulysses Sequence Parallelism: Training with Million-Token Contexts
Google이 Gemma 2를 출시해 9B/27B 두 가지 크기의 오픈 LLM 모델을 제공하며 슬라이딩 윈도우 어텐션과 로짓 소프트 캐핑으로 성능 개선
Welcome Gemma 2 - Google’s new open LLM
Autoformer가 Decomposition Layer와 Autocorrelation Attention 메커니즘을 도입해 DLinear와의 벤치마크에서 Traffic, Exchange-Rate, Electricity 데이터셋 모두에서 우수한 MASE 점수 달성
Yes, Transformers are Effective for Time Series Forecasting (+ Autoformer)