Hierarchical Retrieval 기반 Context Fragmentation 해결 및 정보 정밀도 향상

Context

단순 Chunking 기반 RAG 시스템에서 발생하는 Context Fragmentation으로 인한 정보 손실 문제 분석. 특히 법률/의료 문서처럼 작은 단위의 정보가 주변 문맥에 의존하는 경우, 단일 Chunk 검색만으로는 불완전하거나 잘못된 답변을 생성하는 한계 존재.

Technical Solution

• 고정밀 검색을 위한 Child Chunks와 광범위한 문맥 제공을 위한 Parent Chunks의 계층 구조 설계
• Vector Store에는 Child Chunks를 인덱싱하여 검색 정밀도를 유지하고, Document Store에는 Parent Chunks를 매핑하여 저장
• 검색 단계에서 다수의 Child Chunks가 동일한 Parent ID를 가질 경우 이를 자동으로 통합하는 Auto-merging 로직 구현
• LLM에 파편화된 Child Chunk 대신 통합된 Parent Chunk를 전달함으로써 전체 맥락 보존 및 추론 정확도 제고
• RecursiveCharacterTextSplitter를 활용해 서로 다른 크기의 Chunk Size를 설정함으로써 계층적 데이터 분할 체계 구축