Monolithic AI를 대체하는 Agentic Architecture 기반의 모듈형 e-commerce 설계

Context

범용 LLM의 높은 Latency와 Hallucination으로 인한 e-commerce 전환율 저하 문제 발생. 단일 모델에 의존하는 구조는 대규모 트래픽 환경에서 비용 증가와 데이터 부정확성을 초래하는 한계 노출.

Technical Solution

• LLM 단일 구조에서 Small Language Models(SLM) 및 Mixture of Experts(MoE) 기반의 Agentic Architecture로 전환
• Model Context Protocol(MCP)을 도입하여 AI 에이전트와 PrestaShop 데이터 간의 표준화된 인터페이스 구축
• Intent 분석을 수행하는 Router를 배치하여 요청 성격에 따라 Fraud, Logistics, Merchandising 등 전담 Agent로 작업 분배
• LLM이 직접 계산하는 대신 MCP Server의 secure function을 호출하여 DB 기반의 실시간 정밀 데이터 추출
• 데이터 주권 확보 및 GDPR 준수를 위해 Mistral, Llama 등 소형 모델의 로컬 배포 전략 채택
• 비정형 언어 처리와 정형 로직 계산을 분리하는 Hybridization 설계 적용