ANN 알고리즘 기반 Vector DB의 Trade-off 분석과 최적 거리 측정법 제안

Context

고차원 벡터 검색 시 Exact Nearest Neighbor Search의 O(N * D) 시간 복잡도로 인한 Latency 병목 발생. 단순 API 활용 방식은 ANN 알고리즘의 근사치 특성과 데이터 분포 변화에 따른 Recall 저하 문제를 간과하는 한계 존재.

Technical Solution

• HNSW 구조 채택을 통한 계층적 그래프 탐색 기반의 쿼리 속도 최적화
• m 및 ef_construct 파라미터 조정을 통한 Memory 사용량과 Recall 간의 Trade-off 제어
• IVF 인덱스의 Voronoi cell 분할 방식을 통한 검색 범위 축소 및 처리 효율 개선
• OpenAI 등 정규화된 벡터 사용 시 Cosine 대신 Dot Product를 적용하여 불필요한 연산 Overhead 제거
• 소규모 데이터셋(10k 미만) 대상의 인프라 의존성 제거를 위한 In-memory Numpy Matrix 연산 적용
• 데이터 분포 변화에 따른 IVF Centroid 최적화 및 HNSW ef 파라미터 런타임 튜닝을 통한 정확도 복구