피드로 돌아가기
Hugging Face BlogAI/ML
원문 읽기
AMD MI300X 기반 On-premise LLM으로 30초 만에 CNC 제조 가능성 분석
MachinaCheck: Building a Multi-Agent CNC Manufacturability System on AMD MI300X
AI 요약
Context
기존 CNC 수주 분석은 숙련된 관리자가 도면과 공구 현황을 수동으로 대조하는 방식으로 인해 도면당 최대 60분의 시간이 소요됨. 특히 고객사의 기밀 STEP 파일 유출 우려로 인해 외부 상용 API 기반 AI 도입이 불가능한 제약 조건이 존재함.
Technical Solution
- Privacy by Design 구현을 위해 192GB VRAM의 AMD MI300X를 활용한 Qwen 2.5 7B 모델의 On-premise 구축
- Cadquery 라이브러리를 통한 STEP 파일의 수학적 Feature Extraction으로 LLM의 환각을 배제한 100% 정확한 기하학 정보 추출
- LLM의 추론 능력과 Python의 결정론적 로직을 분리한 Hybrid Multi-Agent 파이프라인 설계
- vLLM 및 ROCm 스택을 통한 고속 추론 환경 구축으로 Agent 간 지연 시간을 3초 미만으로 단축
- 도메인 지식 기반의 Prompt Engineering을 통해 공구 선정 및 제조 가능성 판단의 정확도 확보
Impact
- 분석 시간: 도면당 30~60분에서 25~40초로 획기적 단축
- 데이터 보안: 외부 서버 전송 데이터 0 byte 달성
- 처리 속도: 50개 이하 Feature 포함 부품의 추출 시간 1초 미만 기록
Key Takeaway
추론이 필요한 영역(공정 분류, 최종 결정)에는 LLM을 사용하되, 정확한 데이터 조회(공구 재고 확인)에는 결정론적 코드(Pure Python)를 사용하는 '적재적소의 도구 배치'가 시스템 신뢰성과 성능의 핵심임.
실천 포인트
- 데이터 보안 요구사항이 엄격한 도메인인 경우 On-premise LLM 및 대용량 VRAM GPU 인프라 검토 - 정형 데이터 추출 단계에서 LLM/Vision 모델 대신 수학적 파서(Parser)를 우선 적용하여 신뢰도 확보 - Multi-Agent 설계 시 DB Query 등 결정론적 작업에 LLM을 사용하는 오버헤드 및 환각 리스크 제거 - vLLM의 gpu-memory-utilization 설정을 통한 리소스 최적화 및 모델 확장성 고려