최대 85%의 Refusal Decay 발생, 모델 내장 Guardrail의 한계 입증

Context

AI Safety를 정적인 상태로 간주하여 단일 턴 기반의 거부 메커니즘에 의존하는 기존 설계의 한계 분석. 대화가 길어질수록 모델의 우선순위가 Safety Guideline에서 사용자 요청 수행으로 전이되는 Conversational Drift 현상 식별.

Technical Solution

• Model-native Alignment에 의존하지 않는 Model-Independent Guardrails 도입을 통한 안전성 강제
• 외부 Hardened Moderation Layer를 구축하여 비협상적 제약 조건으로 Safety 정책 적용
• Multi-turn 대화 흐름에 특화된 Adversarial Testing 설계를 통한 취약 경로 사전 식별
• 모델의 Compliance 시도를 전제로 한 출력 단계의 Block-infrastructure 계층 설계
• Context Window 확장에 따른 Safety 가중치 감소 문제를 해결하기 위한 외부 제어 로직 구현