OpenAI API 호환 레이어 기반 Local Image Generation 환경 구축

Context

클라우드 기반 AI 서비스의 프롬프트 데이터 유출 우려와 엄격한 Content Filter로 인한 제약 존재. 기존 로컬 모델 구축 시 Python 버전 충돌 및 가상 환경 설정 등 복잡한 종속성 관리 문제 발생.

Technical Solution

• DDUF(Diffusers Unified Format) 도입을 통한 모델 컴포넌트의 단일 OCI Artifact 패키징 및 배포 구조 설계
• Docker Model Runner를 Control Plane으로 활용하여 모델 생명주기 관리 및 OpenAI-compatible API 제공
• model-runner.docker.internal 특수 DNS 엔트리를 통한 호스트-컨테이너 간 네트워크 포트 포워딩 오버헤드 제거
• Open WebUI의 API Base URL 설정을 통한 LLM(텍스트)과 Diffusers(이미지) 백엔드의 분리 및 통합 라우팅 구현
• 모델 가중치의 메모리 상주(Warm-up) 방식을 통한 초기 로딩 이후 추론 속도 최적화

Key Takeaway

표준화된 API 인터페이스(OpenAI spec)를 추상화 레이어로 활용하여 백엔드 모델 엔진을 유연하게 교체 가능한 Decoupled Architecture 구현 가능.