AI Security for Apps is now generally available

Context

기존 웹 애플리케이션은 결정론적 규칙으로 보안을 적용할 수 있지만, AI 기반 애플리케이션은 자연언어 입력과 확률적 출력을 특징으로 하기 때문에 고정된 작업 집합을 정의할 수 없다. 프롬프트 주입, 민감한 정보 유출, 무제한 소비와 같은 OWASP Top 10 LLM 위험이 발생하며, AI 에이전트가 도구 호출(환불 처리, 계정 수정, 할인 제공, 고객 데이터 접근)에 접근할 수 있을 때 단일 악성 프롬프트가 즉각적인 보안 사건이 된다.

Technical Solution

• AI 엔드포인트 자동 발견: 경로 패턴 매칭(/chat/completions 등) 대신 엔드포인트 동작 방식을 분석하여 /product search, /property-valuation, /recommendation-engine 같은 채팅 인터페이스가 없는 AI 애플리케이션도 식별
• 다중 감지 모듈 구현: 프롬프트 주입, PII 노출, 독성 주제에 대한 기본 제공 감지 모듈을 모든 AI 엔드포인트 트래픽에 항상 적용
• 커스텀 토픽 감지: 금융 회사는 특정 증권 토론, 의료 회사는 환자 데이터 언급, 소매점은 경쟁사 제품 문의 같은 도메인별 정책을 정의하고 관련도 점수로 평가
• Cloudflare 리버스 프록시 통합: AI Security for Apps를 Cloudflare 리버스 프록시에 배치하여 제3자 모델 또는 자체 호스팅 모델 모두 보호
• WAF 규칙 엔진을 통한 미티게이션: 감지 결과를 메타데이터로 첨부하여 기존 WAF 규칙 빌더로 차단, 로깅 또는 커스텀 응답 처리, 봇넷에서 온 프롬프트 주입 같이 다양한 요청 신호(IP, 브라우저 핑거프린트)와 결합한 의사결정 가능

Impact

AI 엔드포인트 발견 기능을 Free, Pro, Business 플랜 모든 Cloudflare 고객에게 무료 제공을 시작했다.

Key Takeaway

AI 보안은 AI 계층만 감시하는 포인트 솔루션이 아니라, 요청에 대해 알려진 수백 개의 필드를 활용할 수 있는 통합 보안 레이어에서 맥락적 의사결정을 내려야 한다.