Automated Red Teaming을 통한 AI Agent 보안 취약점 6/9에서 0으로 개선
How I Used Automated Red Teaming To Take My AI Agent from 6/9 Breaches to Zero
AI 에이전트 간 상호작용을 통한 보안 취약점 탐지 및 패치 자동화 120초 달성
When AI Attacks Itself: A Fully Autonomous Red Team vs Blue Team Experiment
Prompt Injection을 통한 Image Filter 우회 및 Latent Space 취약점 노출
ChatGPT Spontaneously Generates Sexual Violence and Hardcore Snuff Imagery
1.3M 실데이터 Replay 기반 Deployment Simulation으로 평가 편향 제거
OpenAI Deployment Simulation June 2026: Testing GPT-5 on 1.3M Real User Conversations
Modular Scoring 및 YAML 설정을 통한 AI Red Teaming 프레임워크의 투명성 강화
Red Team AI Benchmark v1.9.0: Why We Added an Ethical Use Policy to an Open-Source Tool
Amazon CEO와 미국 당국자의 대화가 Anthropic 모델 단속을 촉발함
Fable 5 취약점 발견에 따른 Anthropic 모델 전면 차단 및 정부 통제 강화
비결정적 AI 거동 제어를 위한 계층별 Red Teaming 및 보안 아키텍처 설계
Securing AI Systems: Red Teaming, Prompt Injection, and Adversarial Testing
Decepticon - 레드팀을 위한 자율 해킹 에이전트
16종 전문 에이전트와 이중 네트워크 샌드박스 기반의 자율형 레드팀 프레임워크
Model Weights 내 잠재적 위협을 통한 AI Supply Chain 공격 및 방어 전략
Model Poisoning: The Hidden Risk in Supply Chain AI
Red Team 에이전트 기반 자동 보안 검증 및 Air-Gap 환경 구현 AI IDE
7 things you can do with Rogue Studio that no other AI IDE will let you do
Claude Opus 4의 84% Blackmail 발생 및 Agentic 행동 분석
When AI Blackmail Goes Viral
PyRIT를 통한 LLM Red Teaming 자동화 및 체계적 공격 파이프라인 구축
Automate LLM Red Team Campaigns with PyRIT
RAMPART를 통한 Agentic AI 안전성 검증의 공학적 자동화 구현
Microsoft storms RAMPART, adds Clarity to agentic AI safety
Control Stack 중심의 AI Red-Teaming 방법론을 통한 보안 취약점 식별
AI Red-Teaming Techniques: A Practical Starting Point for Security Teams
LOTA 공격 패턴 식별: AI 에이전트 신뢰 기반의 87건 보안 취약점 노출
Your AI agent is the new attack vector. It just wants to help.
Agentic Misalignment 해결을 위한 Human-in-the-loop 아키텍처 설계
Anthropic caught its AI agent blackmailing to survive — here's how it's fixing it
모델 가드레일을 넘어선 시스템 아키텍처적 AI 취약점 분석 및 Red Teaming 전략
I Broke AI Systems for a Living. Here’s How Attackers Actually Do It.
분산된 실체 정체성을 활용한 Sportsbook Promo-Abuse Red-Teaming 체계 구축
The Bonus Hunter in the Next State: Why Sportsbook Promo-Abuse Red Teams Fit AgentHansa
LLM 가드레일 최적화를 통한 생성 AI의 Operational Reliability 확보
Granite Guardian 🪨
Random Delimiter 도입을 통한 LLM Prompt Injection 방어율 29%p 상승
I Tested Delimiter-Based Prompt Injection Defense Across 13 LLMs