Pinecone과 FastAPI 기반 12ms 지연시간의 Semantic Search 아키텍처 구현

Context

단순 키워드 매칭의 한계를 극복하기 위해 텍스트의 의도를 반영하는 고차원 벡터 공간 기반의 검색 체계 필요. 대규모 데이터셋에서 Nearest Neighbor 쿼리를 효율적으로 처리하기 위한 전용 Vector Store의 도입이 필수적인 상황.

Technical Solution

• all-MiniLM-L6-v2 모델을 통한 384차원 Embedding 생성으로 텍스트의 의미론적 수치화 구현
• FastAPI를 엔트리포인트로 설계하여 Pydantic 기반의 데이터 검증 및 OpenAPI 스키마 자동화
• Pinecone의 Managed Index를 활용하여 벡터 저장 및 Approximate Nearest Neighbor(ANN) 검색 로직 분리
• Cosine Similarity 메트릭 적용으로 벡터 정규화 및 내적 계산을 통한 정밀한 유사도 측정
• upsert API를 통해 문서 ID, 벡터, 메타데이터를 원자적으로 저장하는 데이터 파이프라인 구축
• 로그 시간 복잡도의 파티션 조회 후 소수 후보군을 재정렬하는 쿼리 경로 설계를 통한 응답 속도 최적화