System Prompt의 자연어 제약 한계 극복을 위한 구조적 Output 검증 체계 도입
The gay jailbreak: probé la técnica viral sobre mis propios prompts de producción y esto encontré
보안 팀 대상 취약점 탐지 특화 모델 GPT-5.4-Cyber 출시
OpenAI Launches GPT-5.4-Cyber with Expanded Access for Security Teams
Prompt Injection 방어, 구조적 격리와 검증으로 LLM 보안 강화
Shielding Your LLMs: A Deep Dive into Prompt Injection & Jailbreak Defense
Haize Labs가 인간 작성 Jailbreak 데이터셋 8개를 통합한 Red-Teaming Resistance Leaderboard를 구축해 LLM의 안전성을 카테고리별로 측정
Introducing the Red-Teaming Resistance Leaderboard
HuggingFace 팀이 LLM의 유해 출력을 유도하는 Red-Teaming 평가 방법론을 체계화해 모델 안전성 검증 체계 수립
Red-Teaming Large Language Models