1억 건 데이터셋에서도 ms 단위 응답을 보장하는 ANN 기반 Vector DB 설계

Context

고차원 벡터 공간 내에서 단순 Brute-force 검색 시 발생하는 연산 비용과 지연 시간 문제 분석. 단순 텍스트 매칭을 넘어 의미적 유사성을 처리하기 위한 고차원 Embedding 데이터 관리 체계 필요성 대두.

Technical Solution

• Embedding 모델을 통한 768~3072 차원의 고밀도 벡터 생성 및 Latent Feature 추출
• Cosine Similarity 기반의 방향성 중심 유사도 측정으로 개념적 정렬 상태 파악
• HNSW 알고리즘의 다층 그래프 구조를 통한 Sub-linear 탐색 시간 구현 및 쿼리 레이턴시 단축
• IVF(Inverted File Index)의 Voronoi Cell 클러스터링을 통한 검색 범위 제한 및 메모리 효율성 확보
• Pre-filter와 Post-filter가 결합된 Hybrid Metadata Filtering으로 검색 정밀도 향상
• RAG(Retrieval-Augmented Generation) 패턴을 적용한 LLM 컨텍스트 제공 및 Hallucination 억제