Hugging Face가 JFrog 스캐너를 통합하여 모델 가중치의 악의적 코드 실행 위협을 패턴 매칭 수준에서 코드 파싱 분석 수준으로 상향

Context

Hugging Face Hub에서 공유되는 모델의 직렬화 형식(pickle, Keras Lambda 등)은 역직렬화 또는 추론 시점에 임의의 코드 실행 취약점을 가지고 있다. 기존 picklescan 스캐너는 모듈 이름에 대한 패턴 매칭만 수행하므로 함수나 모듈 사용의 악의 여부를 확실히 판단할 수 없다.

Technical Solution

• JFrog Software Supply Chain Platform의 스캐너를 Hub 플랫폼에 통합: 모든 공개 모델 저장소가 자동으로 스캔됨
• 코드 파싱 및 분석 기능 도입: 모델 가중치에서 발견된 코드를 구문 분석하고 악의적 사용 가능성을 검사
• Pickle과 Keras Lambda 레이어 외 추가 파일 형식의 악용 시나리오 탐지: JFrog Model Threats 페이지에서 지원하는 형식 목록 관리
• 사용자 행동 불필요: 파일을 Hub에 푸시하는 즉시 자동 스캔 실행

Impact

Hugging Face는 이미 수억 개의 파일을 스캔했다.

Key Takeaway

모델 공유 플랫폼의 보안은 외부 공급망 솔루션과의 파트너십으로 강화할 수 있으며, 패턴 기반 탐지에서 의미론적 코드 분석으로의 진화는 거짓 양성을 줄이면서 실질적 위협 탐지 정확도를 높인다.