Model Weights 내 잠재적 위협을 통한 AI Supply Chain 공격 및 방어 전략

Context

API Endpoint 및 Input Filtering 중심의 기존 Perimeter Security 기반 방어 체계의 한계 분석. Model Weights 내부에 잠복하여 특정 Trigger 발생 시에만 작동하는 Model Poisoning으로 인해 기존 CVE 스캐닝 및 WAF 기반 탐지가 불가능한 구조적 취약성 노출.

Technical Solution

• Data Poisoning 차단을 위한 Training Dataset의 무결성 검증 및 Labeling 오염 방지 프로세스 구축
• Trojaned Model 탐지를 위한 Out-of-distribution Activation Pattern 분석 기반의 보조 모델 운용
• LoRA 등 Parameter-efficient Fine-tuning 과정에서 삽입될 수 있는 Poisoned Adapter의 체크섬 검증 체계 도입
• Model Provenance 확보를 위한 AI Stack 전체의 Software Bill of Materials(SBOM) 관리 및 Origin 추적
• Prompt Injection을 넘어선 Poisoning 시나리오 중심의 Red Teaming 수행 및 Adversarial Input 테스트 확대
• Trigger 발현 시의 비정상적 내부 표현(Internal Representation)을 탐지하는 통계적 분석 기법 적용