Prompt Injection 방어, 구조적 격리와 검증으로 LLM 보안 강화
Shielding Your LLMs: A Deep Dive into Prompt Injection & Jailbreak Defense
Haize Labs가 인간 작성 Jailbreak 데이터셋 8개를 통합한 Red-Teaming Resistance Leaderboard를 구축해 LLM의 안전성을 카테고리별로 측정
Introducing the Red-Teaming Resistance Leaderboard
HuggingFace 팀이 LLM의 유해 출력을 유도하는 Red-Teaming 평가 방법론을 체계화해 모델 안전성 검증 체계 수립
Red-Teaming Large Language Models