3-tier 캐싱으로 AI 비용 90% 절감한 100+ 소매업체 실시간 가격 비교 플랫폼 구축

Context

다수의 소매업체에서 최적 가격을 찾기 위해 사용자가 여러 탭을 전환하는 번거로움이 있음. AI 기반 자연어 검색으로 사용자가 원하는 제품 사양과 예산을 이해하고 실시간 가격 비교를 제공할 필요가 있었음.

Technical Solution

• Gemini 2.5 Flash: 자연어 검색 쿼리에서 의도, 예산, 필수 기능을 추출하여 정확한 제품 매칭을 수행함
• PostgreSQL 3-tier 캐싱: In-memory(24시간), PostgreSQL(7일) 계층 구조로 AI API 호출을 최소화함
• Google Shopping API via Serper.dev: 최적화된 검색 쿼리로 다양한 소매업체 데이터 수집함
• 제휴 링크 통합 시스템: Amazon, eBay 등 각 소매업체별 다른 URL 포맷을 통일된 시스템으로 처리함
• US/Canada 자동 감지: 위치 기반 통화 및 소매업체 필터링으로 로컬화된 검색 결과 제공함

Impact

AI API 비용 약 90% 절감. PostgreSQL 캐시 TTL 7일로 반복 검색 시 API 호출 제거함.

Key Takeaway

AI 기반 서비스에서 비용 최적화의 핵심은 데이터 접근 패턴에 맞는 다단계 캐싱 전략임. 캐시 적중 시 AI 호출을 완전히 건너뛸 수 있는 구조가 필수적임.