RAPTOR Tree와 Step-back Prompting 기반 SEQUOIA의 RAG 성능 최적화

Context

기존 GraphRAG 등 복잡한 아키텍처의 높은 구축 비용 대비 실제 리트리벌 품질의 한계 확인. 학술적 벤치마크와 실제 뱅킹 문서 및 기술 매뉴얼 환경 간의 성능 괴리 발생.

Technical Solution

• RAPTOR Tree를 통한 leaf node 클러스터링 및 계층적 요약 구조 설계로 세부 사항과 상위 문맥 동시 확보
• Step-back Prompting 도입을 통한 쿼리 일반화로 검색 범위 확장 및 Recall 성능 개선
• Context Compression과 Cross-encoder 기반 Re-ranking 적용으로 LLM 입력 효율 극대화
• 단순 Dense Retrieval의 한계를 극복하기 위해 다층적 계층 검색(Multi-level Retrieval) 로직 구현
• Graph construction의 높은 오버헤드를 배제하고 구조적 추상화에 집중한 SEQUOIA 파이프라인 구축