Aurora DSQL 기반 Multi-Region 설계로 글로벌 DB 지연시간 100ms 미만 달성

Context

신흥 시장 중심의 WhatsApp 고객 지원 도구에서 발생하는 높은 지연시간과 AI 기능 부재라는 한계 직면. 기존 엔터프라이즈 솔루션의 높은 비용과 분산 사용자 환경에서의 성능 저하 문제를 해결하기 위한 AI-Native 아키텍처 필요성 제기.

Technical Solution

• Aurora DSQL 도입을 통한 Multi-Region Active-Active 구조 설계로 지리적 거리 기반의 데이터 접근 최적화
• 별도의 Vector DB 없이 Aurora DSQL 내 JSON Array 형태로 Embedding 데이터를 저장하여 아키텍처 단순화 및 관리 비용 절감
• Gemini, GPT-4o, Claude Sonnet 4를 태스크별로 동적 스위칭하는 Multi-Model AI Engine을 통한 응답 품질과 가용성 확보
• 최대 20개 노드로 제한된 Depth-limited execution 로직을 적용한 No-Code Flow Engine으로 무한 루프 방지 및 상태 관리 최적화
• Euclidean distance 기반의 getNearestRegion 함수를 통한 클라이언트 최접점 리전 라우팅 구현
• RAG 파이프라인 내 Cosine Similarity 기반 랭킹 시스템을 구축하여 AI 할루시네이션 억제 및 답변 근거 확보