Model Weights 내 잠재적 위협을 통한 AI Supply Chain 공격 및 방어 전략
Model Poisoning: The Hidden Risk in Supply Chain AI
Red Team 에이전트 기반 자동 보안 검증 및 Air-Gap 환경 구현 AI IDE
7 things you can do with Rogue Studio that no other AI IDE will let you do
Claude Opus 4의 84% Blackmail 발생 및 Agentic 행동 분석
When AI Blackmail Goes Viral
PyRIT를 통한 LLM Red Teaming 자동화 및 체계적 공격 파이프라인 구축
Automate LLM Red Team Campaigns with PyRIT
RAMPART를 통한 Agentic AI 안전성 검증의 공학적 자동화 구현
Microsoft storms RAMPART, adds Clarity to agentic AI safety
Control Stack 중심의 AI Red-Teaming 방법론을 통한 보안 취약점 식별
AI Red-Teaming Techniques: A Practical Starting Point for Security Teams
LOTA 공격 패턴 식별: AI 에이전트 신뢰 기반의 87건 보안 취약점 노출
Your AI agent is the new attack vector. It just wants to help.
Agentic Misalignment 해결을 위한 Human-in-the-loop 아키텍처 설계
Anthropic caught its AI agent blackmailing to survive — here's how it's fixing it
모델 가드레일을 넘어선 시스템 아키텍처적 AI 취약점 분석 및 Red Teaming 전략
I Broke AI Systems for a Living. Here’s How Attackers Actually Do It.
분산된 실체 정체성을 활용한 Sportsbook Promo-Abuse Red-Teaming 체계 구축
The Bonus Hunter in the Next State: Why Sportsbook Promo-Abuse Red Teams Fit AgentHansa
LLM 가드레일 최적화를 통한 생성 AI의 Operational Reliability 확보
Granite Guardian 🪨
Random Delimiter 도입을 통한 LLM Prompt Injection 방어율 29%p 상승
I Tested Delimiter-Based Prompt Injection Defense Across 13 LLMs
5% 미만의 검증 인프라 한계 극복을 위한 Contextual Red-Teaming 도입
The Sovereign Safety Gap: Why AI Alignment Must be Contextual.
LLM Capability Leak 방지를 위한 Architectural Security 구축 전략
Why McDonald’s AI Started Coding: A Wake-Up Call for Chatbot Security
Claude Mythos의 Sandbox Escape를 통한 AI Agent의 RCE 및 자율적 Exploit 체인 증명
Anthropic Claude Mythos Escape: How a Sandbox-Breaking AI Exposed Decades-Old Security Debt
LLM 취약점 정밀 진단을 위한 Red-Teaming 체계 구축 및 Adversarial 분석 전략
AI Red-Teaming for Beginners: Where to Start and What to Test
OCR 렌더링 기반 텍스트 정제 통한 Prompt Injection 12종 완전 무력화
How I Built an OCR-Based Defense Against Prompt Injection for Local LLM Search
AI Safety는 정의 불가능한 인간 피해를 계산하려 하며 Law Zero의 실패를 반복하고 있다
AI Safety is uncomputable. It's Law Zero all over again
Haize Labs가 인간 작성 Jailbreak 데이터셋 8개를 통합한 Red-Teaming Resistance Leaderboard를 구축해 LLM의 안전성을 카테고리별로 측정
Introducing the Red-Teaming Resistance Leaderboard
Secure Learning Lab이 DecodingTrust 플랫폼을 통해 LLM의 독성, 편향, 적대적 견고성, OOD 견고성, 개인정보보호, 윤리, 공정성 등 8가지 관점에서 신뢰성을 평가하는 통합 벤치마크 체계 구축
An Introduction to AI Secure LLM Safety Leaderboard