NLEmbedding의 시맨틱 한계를 String Match 기반 Hybrid Search로 해결

Context

Apple의 NLEmbedding을 활용한 Local RAG 시스템 구축 중, 정교한 벡터 검색이 단순 junk 데이터보다 낮은 유사도 점수를 기록하는 현상 발생. 특히 정적 단어 벡터 방식의 한계로 인해 Agglutinative Language(교착어) 처리 불가 및 Context 이해 부족이라는 구조적 결함 확인.

Technical Solution

• 벡터 유사도 기반의 단일 검색 경로를 String Matching이 결합된 Hybrid Search 구조로 변경
• NLEmbedding의 낮은 Context 이해도를 보완하기 위해 string.contains() 기반의 키워드 필터링 로직을 검색 파이프라인에 병렬 배치
• 쿼리 성격에 따라 Tool Calling 경로와 자동 Context Append 경로를 분리하여 검색 트리거 최적화
• Metal GPU Kernel을 통한 대량의 Cosine Similarity 연산 최적화 상태를 유지하며, 상위에 결정론적(Deterministic) 텍스트 매칭 계층 추가
• 복잡한 LLM 모델 증설 대신 단순 조건문을 통한 검색 정확도 확보 전략 채택