Fetch가 서드파티 AI 솔루션을 자체 ML 모델로 전환하여 개발 시간 30% 단축 및 처리 지연 50% 감소 달성

Context

Fetch는 일일 1,100만 건의 영수증을 처리하기 위해 서드파티 AI 솔루션을 사용했으나, 이 솔루션은 블랙박스처럼 작동하여 데이터 인사이트 제어 불가능 상태였다. 비즈니스 파트너들이 필요로 하는 고객 프로모션 참여도 분석 등 세분화된 데이터 추출이 불가능했다.

Technical Solution

• 서드파티 AI 뇌를 자체 ML/AI 모델로 전환: Hugging Face Transformers를 활용한 문서 AI 모델 개발 및 엔티티 해석, 시맨틱 검색 개선
• AWS SageMaker를 통한 모델 학습 및 배포: 완전 관리형 인프라, 도구, 워크플로우 활용
• AWS Inferentia 가속기 도입: 딥러닝 추론 애플리케이션의 성능 향상 및 비용 최적화
• 섀도우 파이프라인 구축: 기존 블랙박스 솔루션과 병행하여 전체 1,100만 건 영수증을 새로운 ML 파이프라인으로 재처리하고 감시
• Hugging Face Expert Acceleration Program을 통한 지식 이전: Hugging Face 팀의 자문으로 Fetch 엔지니어 팀이 Transformers 모델 활용 방법 습득

Impact

• 개발 시간 30% 단축
• 처리 지연 50% 감소
• 모델 학습 시간 단축: 기존 수일~수주 → 수 시간으로 개선
• 초기 계획 12개월 프로젝트 완료 기간: 8개월로 단축
• 일일 처리 능력: 1,100만 건 영수증 처리 지속

Key Takeaway

블랙박스 서드파티 솔루션 의존성에서 벗어나 오픈소스 기반 자체 ML 인프라 구축으로 비즈니스 위험 제거 및 데이터 제어권 확보가 가능하다. Hugging Face와 같은 커뮤니티 기반 도구와 AWS의 관리형 서비스 조합은 빠른 ML 모델 개발과 검증을 가능하게 한다.