피드로 돌아가기
Dev.toAI/ML
원문 읽기
Context Window 한계 극복을 위한 프로젝트 기반 외부 메모리 저장소 구현
My first custom made AI-skill.
AI 요약
Context
LLM의 제한된 Context Window로 인한 Hallucination 발생 및 장기 세션 내 문맥 유지 불가 문제 확인.
Technical Solution
- 프로젝트 전용 경로(.agent/nhallucinate/)를 활용한 Persistent Storage 설계
- 세션 간 상태 공유를 위한 프로젝트 기반 파일 시스템 메모리 구조 채택
- 성공 및 실패 사례의 명시적 기록을 통한 AI의 추론 정확도 향상 유도
- 외부 파일 저장 방식을 통한 모델의 Context Window 의존도 감소 전략 적용
실천 포인트
LLM 기반 자동화 도구 설계 시 상태 유지(State Management)를 위해 프로젝트 루트 내 숨김 폴더를 활용한 Knowledge Base 구축 검토