피드로 돌아가기
MLOps for LLM: A Case Study on Dresscode
Dev.toDev.to
AI/ML

Gemma 4 기반 AI 스타일리스트의 MLOps 파이프라인 구축 및 최적화

MLOps for LLM: A Case Study on Dresscode

Saad Alkentar2026년 6월 25일27intermediate

Context

Proof of Concept 단계의 Dresscode 서비스를 상용 수준으로 전환하는 과정에서 발생하는 데이터 품질 저하 및 운영 효율성 문제 분석. 특히 스마트폰 고해상도 이미지 처리로 인한 Latency 증가와 LLM의 Hallucination 및 API 비용 제어의 필요성 대두.

Technical Solution

  • API Gateway와 Cloud Landing Bucket을 통한 이미지 Ingestion 파이프라인 구축으로 데이터 수집 안정성 확보
  • 5MB~12MB 고해상도 이미지를 표준 해상도로 Downsampling 및 Compression하여 API 비용 절감 및 추론 속도 개선
  • LLM Function Calling 기반의 실시간 기상 API 연동을 통해 정적인 추천에서 Context-Aware한 동적 추천 구조로 전환
  • Deterministic Verification Layer를 통한 출력값과 사용자 옷장 리스트 교차 검증으로 Hallucination 탐지 및 제어
  • Token Usage Tracking 시스템을 구축하여 Agentic Planning 과정에서 발생하는 무한 루프 및 비용 급증 방지
  • 명시적/암묵적 사용자 피드백을 수집하여 데이터 재학습 단계로 환류시키는 Feedback & Retraining Loop 설계

1. 멀티모달 LLM 입력 전 이미지 리사이징 및 압축 파이프라인 적용 여부 확인

2. LLM 생성 결과물과 원본 데이터셋 간의 일치 여부를 검증하는 결정론적 필터 설계

3. Agentic Workflow 도입 시 토큰 소비량 모니터링 및 최대 토큰 제한 설정

원문 읽기