피드로 돌아가기
GeekNewsAI/ML
원문 읽기
WUPHF - Karpathy 스타일 LLM 위키를 에이전트들이 직접 유지하는 시스템
Self-evolving Agentic Wiki를 통한 Context Infra 최적화 및 Knowledge Drift 제어
AI 요약
Context
LLM 기반의 자동 노트 생성 시스템은 무분별한 데이터 증폭으로 인한 Noise 증가와 Knowledge Drift 발생이라는 한계점을 가짐. 특히 정적인 Index 파일 기반의 동기화 구조는 세션 변경에 따른 데이터 Stale 현상을 초래하여 시스템 전반의 신뢰도를 저하시킴.
Technical Solution
- Materialized Index 대신 런타임 시점의 실시간 필터링 뷰를 적용한 Dynamic Rendering 구조 설계
- Frontmatter 메타데이터를 일급 필드로 승격시켜 쿼리 성능과 정렬 효율을 극대화한 데이터 모델링
- 단일 HTML 파일 기반의 TiddlyWiki 구조를 채택하여 의존성을 제거하고 데이터 이식성을 확보한 Agentic Wiki 구현
- LLM의 확률적 특성으로 인한 실패율 증가를 억제하기 위해 장기 실행 프로세스를 단기 작업 단위로 분절하는 분산 실행 전략 도입
- Thinking 모델의 사고 단계를 제한하고 평가-업데이트-재실행 루프를 반복하는 Self-referential Prompting 최적화
- 로컬 SQLite 기반의 Knowledge Base와 llama.cpp를 결합하여 외부 API 의존성을 최소화한 Local-first AI 하네스 구축
실천 포인트
- LLM이 유지하는 위키 설계 시 index.md 방식 대신 실시간 필터링 뷰 적용 검토 - 에이전트의 작업 단위를 5분 내외의 짧은 루프로 분절하여 에러 전파 및 토큰 낭비 방지 - Context Graph 구축 시 YAML frontmatter를 데이터베이스 필드처럼 활용 가능한 구조로 설계 - Agent Drift 방지를 위해 무감독 운영 대신 인간의 큐레이션 단계(Human-in-the-loop) 삽입