Hugging Face 커뮤니티가 10K 선호도 쌍 데이터셋을 250명 이상의 참여자와 함께 2주 내에 구축하여 텍스트-이미지 생성 모델의 오픈소스 학습 데이터 부족 문제 해결

Context

텍스트-이미지 생성을 위한 오픈 라이선스 선호도 데이터셋이 부족했으며, 기존 유사 프로젝트들은 프롬프트 다양성, 복잡도 변화, 코드 공개성 측면에서 제한적이었다.

Technical Solution

• imgsys에서 수집한 실제 사용자 프롬프트를 기반으로 중복 및 NSFW 콘텐츠 필터링: 텍스트 기반 분류기 2개 + 이미지 기반 분류기 2개 적용 후 수동 검토
• distilabel 파이프라인을 사용해 Default, Stylized, Quality 3단계로 프롬프트 합성 재작성하여 복잡도 다양화
• 12가지 주요 카테고리(Cinematic, Photographic, Anime, Manga, Digital art, Pixel art, Fantasy art, Neonpunk, 3D Model, Painting, Animation, Illustration)와 상호배타적 하위 카테고리로 프롬프트 분류
• stabilityai/stable-diffusion-3.5-large와 black-forest-labs/FLUX.1-dev 2개 모델로 이미지 생성하여 서로 다른 모델 계열 간 비교
• Stable Diffusion 3.5-XL 기반 LoRA 어댑터를 생성된 선호도 데이터로 파인튜닝하여 미술 및 영화적 스타일 성능 개선

Impact

커뮤니티 스프린트 결과 250명 이상의 참여자로부터 2주 내에 30K개 이상의 주석 응답 수집(10K 선호도 쌍, 2-3명 주석자 중복), 상위 3명 사용자는 5K개 이상의 선호도 기여

Key Takeaway

오픈소스 AI 커뮤니티의 분산 협력으로 다양한 카테고리, 복잡도, 모델 계열을 아우르는 고품질 선호도 데이터셋을 구축할 수 있으며, 이는 텍스트-이미지 생성 모델의 DPO/ORPO 파인튜닝과 비전 모델 정렬에 필수적인 자산이 된다.