피드로 돌아가기
Dev.toAI/ML
원문 읽기
GraphRAG 도입으로 정확도 97.2% 달성 및 비용 61% 절감
How We Beat BasicRAG by 72.5% — Building GraphRAG on TigerGraph for a CRM Knowledge Graph
AI 요약
Context
CRM 데이터의 관계형 특성으로 인해 단일 텍스트 청크 기반의 BasicRAG는 다단계 관계 추론에 한계를 보임. Flat Vector Search 방식으로는 엔티티 간의 연결성을 파악하지 못해 낮은 정확도와 높은 토큰 소모가 발생하는 구조적 문제 직면.
Technical Solution
- TigerGraph 기반의 Knowledge Graph를 구축하여 CRM 데이터의 관계성을 정형화한 구조 설계
- GSQL의 multi-hop traversal을 통해 Customer-Deal-Employee로 이어지는 3단계 관계 추적 로직 구현
- Accumulator를 활용한 병렬 트래버설 처리로 데이터 집계 효율성 및 쿼리 성능 최적화
- Vector Search의 모호성을 제거하고 GSQL 기반의 Targeted Lookup을 통해 LLM에 전달할 컨텍스트의 정밀도 향상
- Llama 3.3 70B와 독립적인 Llama 4 Scout 17B 판정 모델을 분리한 Blind Evaluation 체계 구축
- REST++ API와 Docker 환경을 통한 Graph DB와 추론 파이프라인의 통합 아키텍처 구성
실천 포인트
- 데이터 모델이 다단계 관계(Hop)를 포함하는지 분석 후 GraphRAG 도입 검토 - LLM에 전달되는 컨텍스트의 양을 줄이기 위해 GSQL과 같은 도메인 특화 쿼리 언어로 정밀 필터링 적용 - LLM 성능 평가 시 생성 모델과 판정 모델을 분리하여 편향성을 제거한 Blind Test 수행