MCP 도입 통한 RAG 코드 92% 제거 및 성능 향상

Context

복잡한 Chunking 전략과 Vector Database 중심의 전통적 RAG 아키텍처 운용. 데이터 전처리와 검색 로직의 과도한 복잡성으로 인한 유지보수 비용 증가 및 실제 정밀도 저하 발생.

Technical Solution

• MCP(Model Context Protocol) 기반의 데이터 접근 계층 설계로 AI의 추론 능력 활용
• 고정된 Chunking 대신 get_note_content 툴을 통한 Full-text 제공으로 컨텍스트 손실 방지
• 복잡한 Embedding/Reranking 과정 대신 string.contains() 기반의 단순 텍스트 매칭 검색 구현
• AI가 필요한 데이터를 스스로 선택하고 분석하는 Tool-use 패턴으로 검색 패러다임 전환
• 데이터 전처리 중심 설계에서 단순 데이터 제공 인터페이스 설계로 아키텍처 단순화

Impact

• 전체 시스템 코드 규모 2,000라인에서 150라인으로 약 1,850라인 삭제
• 복잡한 RAG 대비 90% 이상의 케이스에서 더 나은 검색 결과 확인

Key Takeaway

LLM의 컨텍스트 윈도우 확장과 추론 능력 향상에 따라, 데이터 전처리(Smart Data)보다 AI가 직접 탐색할 수 있는 인터페이스(Smart Access) 제공이 더 효율적인 설계임.