Role Confusion 이용한 CoT Forgery 공격으로 Jailbreak 성공률 60% 달성
Security researchers tricked LLMs into giving them cocaine recipes by abusing role models for prompt injection
미 정부 수출 통제로 인한 모델 접근 중단 및 AI 인프라 리스크 가시화
Anthropic’s Fable/Mythos shutdown is the first real model export-control shock
Anthropic, Fable과 Mythos에 30일 데이터 보관 요구
Mythos 모델 오용 방지를 위한 30일 데이터 Retention 정책 도입
AI 특화 Failure Mode 대응을 위한 Adversarial Testing 체계 구축
What Is AI Red-Teaming? A Practical Introduction for Security Professionals
에이전트 AI의 안전 가드레일이 긴 문맥에서 희석되어지는 문제
Your Agentic AI's Safety System Gets Dumber As It Thinks Longer