AI-추천 패키지 140개 오염 대응을 위한 SlopScan 기반 실시간 검증 체계

Context

LLM 기반 코딩 어시스턴트가 추천한 패키지를 자동 설치하는 AI agentic workflow의 보안 취약점 노출. CVE 기반의 npm audit 등 기존 방어 체계는 신규 생성된 악성 패키지나 Upstream 소스 오염을 탐지하지 못하는 한계 존재.

Technical Solution

• LLM 응답 콘텐츠 내 모든 패키지 명칭을 추출하여 /check/batch 엔드포인트로 전달하는 인터셉터 구조 설계
• PyPI 및 npm Registry의 실시간 데이터와 대조하여 Trust Score 기반의 위험도 판별 로직 적용
• 단순 Prompt Injection 탐지(Threat Score)와 분리된 독립적인 package_scan 파이프라인 구축
• Trust Score 0 및 신규 등록 여부에 따라 SUSPICIOUS 또는 DANGEROUS 상태로 분류하는 상태 머신 도입
• AI Agent의 Shell 접근 권한 실행 전 package_scan.action 결과값을 검증하는 Circuit Breaker 패턴 적용