ML 인프라 분석 프레임워크 mlsysim을 통한 설계 자동화

Context

ML 시스템 설계가 정교한 수식보다 엔지니어의 직관과 경험적 추론에 의존하는 한계 존재. 하드웨어 제약 사항 및 비용 추산을 위해 수동으로 수행하던 Back-of-envelope math의 정형화 필요성 증대.

Technical Solution

• Declarative YAML 기반의 클러스터 정의를 통한 인프라 제약 조건의 정형화
• Workload Representation부터 Design Space Search까지 이어지는 5단계 분석 레이어 설계
• Feasibility, Performance, Macro economics의 3대 지표를 산출하는 Scorecard 엔진 구현
• 제약 조건 위반 시 Semantic Error Code를 반환하는 CI/CD 파이프라인 통합 구조
• TinyTorch 내 view(), masked_fill() 등 Tensor API 확장을 통한 프레임워크 기초 연산 기능 강화

Impact

• 정밀 특성 분석 완료 워크로드 기준 실제 측정 성능 대비 2~5배 오차 범위 내의 예측 정확도 확보

Key Takeaway

벤치마크 수행 전 단계에서 First-principles 기반의 분석 프레임워크를 도입하여 설계 리스크를 조기에 제거하는 전략적 접근 필요.