ANN 인덱싱 기반의 밀리초 단위 대규모 Semantic Search 구현

Context

키워드 기반 검색의 한계로 인한 의미론적 유사도 탐색 필요성 증대. 수백만 개의 고차원 Vector 데이터 대상 Brute-force kNN 방식의 연산 복잡도로 인한 성능 저하 발생.

Technical Solution

• Cosine Similarity를 통한 쿼리와 문서 간의 의미론적 거리 측정 설계
• HNSW 기반의 ANN(Approximate Nearest Neighbour) 인덱스 도입을 통한 검색 속도 최적화
• 정확도를 일부 희생하여 응답 시간을 밀리초 단위로 단축하는 Trade-off 적용
• Vector, Original Text, Metadata를 통합 저장하는 하이브리드 저장 구조 채택
• Chunking, Embedding, Upsert로 이어지는 RAG 기반 데이터 파이프라인 구축
• Metadata Filtering 및 Keyword Search를 결합한 Hybrid Search 로직 구성