Search-First 설계 도입으로 검색 속도 60배 개선 및 응답 시간 50ms 달성

Context

JSON 파일 기반의 단순 저장 구조로 인한 Retrieval 성능 저하 발생. 매 검색 시 전체 데이터(2,847건)를 Full Scan 하는 비효율적 로직으로 인해 3~7초의 높은 Latency 유발.

Technical Solution

• Runtime Full Scan 방식에서 Startup-time Indexing 구조로의 패러다임 전환
• ConcurrentHashMap을 활용한 In-memory Search Index 구축을 통한 조회 복잡도 개선
• Tokenization 기반의 단어별 인덱싱을 통한 검색 정밀도 및 응답 속도 최적화
• @PostConstruct를 활용한 애플리케이션 기동 시 Index 사전 생성 로직 구현
• Storage 중심 설계에서 Retrieval 중심의 Search-First Architecture로의 구조적 변경

Impact

• Search Latency: 3~7s → 50ms 미만으로 단축
• 성능 개선 폭: 기존 대비 약 60배 이상의 처리 속도 향상
• 시스템 활용률: 2.9%의 낮은 효율성 극복 및 실제 사용 경험 개선

Key Takeaway

데이터 저장보다 중요한 것은 효율적인 검색이며, 인덱싱을 통한 사전 작업이 런타임 비용을 획기적으로 낮추는 핵심 설계 원칙임.