GraphRAG 도입으로 API 비용 61% 절감 및 멀티홉 추론 성능 최적화

Context

기존 LLM-only 및 Vector-based RAG 구조에서 발생하는 Hallucination과 Retrieval Noise 문제 분석. 특히 생명 의학 도메인의 복잡한 약물-질환 간 관계를 단순 semantic similarity만으로 처리하는 구조적 한계 식별.

Technical Solution

• FAISS의 벡터 검색과 TigerGraph의 구조화된 관계 탐색을 결합한 하이브리드 아키텍처 설계
• Query 내 Entity Extraction 및 Graph Resolution 과정을 통한 정밀한 진입점 확보
• TigerGraph 기반의 Multi-hop Graph Expansion으로 단순 유사도 검색을 넘어선 인과 관계 추적 구현
• 추출된 Graph Trace를 기반으로 Evidence Fusion을 수행하여 LLM에 주입되는 Context 밀도 최적화
• MedRAG 데이터셋 기반의 Entity-Relation Extraction 파이프라인 구축을 통한 지식 그래프 정교화

Impact

• Average Token 사용량 약 52% 감소
• Retrieval Token 소모량 약 58% 절감
• 추정 API 비용 약 61% 감소
• Multi-hop causal reasoning의 Grounded Accuracy 및 설명 가능성 확보

Key Takeaway

도메인 지식이 고도로 구조화된 환경에서는 Vector Retrieval의 한계를 Graph Traversal로 보완함으로써 Context Compression과 추론 정확도를 동시에 달성 가능함.