Hardware-Agnostic 설계를 통한 멀티 GPU 프로바이더 배포 자동화 및 설정 유지보수 제로화

Context

가용성 확보와 비용 최적화를 위해 다중 GPU 프로바이더를 활용했으나, 각 인프라에 종속된 하드코딩된 Deployment Config로 인해 워크로드 이동 시마다 설정 재구축이 발생하는 병목 현상 발생.

Technical Solution

• Workload Definition과 Infrastructure Binding의 완전한 분리를 통한 추상화 계층 설계
• 특정 프로바이더 지정이 아닌 Container Image, Resource Requirements 등 필수 요구사항 중심의 Declaration 방식 도입
• 하드웨어 제약 사항을 기반으로 가용 자원을 매칭하는 Scheduling Layer를 통한 자동 배치 구현
• 프로바이더 API 변경 시 영향을 최소화하는 Hardware-Agnostic Deployment Manifest 적용
• 인프라 계층에서 프로바이더 추가/제거를 처리하여 기존 워크로드 정의의 변경 없이 유연한 확장성 확보