Your AI Stack Is Already Being Exploited. You Just Don't Know It Yet.

Context

Bandit, Semgrep, Snyk 같은 기존 SAST 도구는 CVE 탐지와 애플리케이션 코드 패턴 분석에 특화되어 설계되었으나, LLM API 호출, 에이전트 프레임워크, RAG 파이프라인, 모델 가중치 로딩 등 AI 생태계 고유의 공격 표면을 감지하지 못한다. 2024년 Fortune 500 회사에서 14개월간 탐지되지 않은 setup.py 백도어가 발견되었으며, 분석 결과 AI/LLM 인프라 침해 사례의 73%가 기존 보안 도구 커버리지 20% 미만에 해당한다.

Technical Solution

• 20개의 전문화된 정적 분석 스캐너를 병렬로 실행: pip 설치 후크 탐지, 프롬프트 인젝션 경로 분석, 트로이 소스 공격(Trojan Source), 모델 가중치 백도어 감지, 공급망 의존성 검증
• DeepSeek 기반 AI 추론 엔진을 통해 복합 위험 분석: 여러 발견사항의 조합(예: 속도 제한 누락 + LLM 출력 검증 미흡 + 파일시스템 접근 권한)이 개별 발견사항보다 큰 위험을 구성하는 경우를 인식
• 공격자 관점의 우선순위 리포트 생성: 기존 규칙 기반 도구와 달리 고정 규칙셋이 아닌 문맥 기반 분석
• 3가지 인터페이스 제공(CLI, REST API, Python SDK): 로컬 개발 환경의 pre-commit 훅, GitHub Actions 파이프라인 단계, 배포 전 점검 등 다양한 워크플로우 통합
• GitHub Security 탭과 SARIF 포맷 연동: 탐지된 취약점을 코드스캔 알림으로 특정 라인에 표시, --fail-on high 플래그로 CI 게이트 기능 제공

Impact

공급망 공격, 프롬프트 인젝션, 트로이 소스 공격, 모델 가중치 백도어가 차지하는 AI/LLM 인프라 침해의 73%가 기존 도구 커버리지 20% 미만에서 ARCADA를 통해 감지 대상으로 포함됨.

Key Takeaway

AI 애플리케이션의 보안 위협 모델이 기존 애플리케이션과 근본적으로 다르므로, 신뢰 경계 위반(untrusted 데이터를 명령으로 해석하거나 정상 작동으로 위장한 채널을 통한 데이터 유출)을 전문으로 하는 전문화된 도구가 필요하며, 인프라팀이 기존 도구의 사각지대를 인식하고 AI 스택 특화 감사를 도입해야 한다.