Vector RAG vs PageIndex, 문서 구조에 따른 최적의 검색 전략 선택

Context

단순 Vector RAG의 맹목적인 Chunking 및 Embedding 방식의 한계. 복잡한 기술 아키텍처 문서에서 정밀한 추론과 정확한 근거 추출의 어려움.

Technical Solution

• Vector RAG: 문서를 분할하여 ChromaDB에 저장하고 Top-k 유사도 기반으로 관련 청크를 추출하는 표준 방식
• PageIndex: 문서 내 트리 구조를 생성하여 모델이 직접 내비게이션하며 관련 섹션을 선택하는 추론 기반 검색 방식
• Vector RAG는 다수 문서 대상의 빠른 검색과 범용적인 답변 생성에 최적화된 설계
• PageIndex는 단일 장문 문서의 구조적 분석과 정밀한 논리 추론 및 깨끗한 인용구 추출에 특화된 전략
• 두 방식의 장점을 결합하여 Vector Search로 문서를 식별하고 PageIndex로 내부 세부 내용을 탐색하는 하이브리드 아키텍처 제안

Impact

• Vector RAG 응답 속도: 약 7s
• PageIndex 응답 속도: 약 11s

Key Takeaway

특정 기술의 대체가 아닌 유스케이스별 적합한 도구 선택의 중요성. 데이터의 구조와 요구되는 답변의 정밀도에 따라 검색 파이프라인을 유연하게 설계하는 원칙.