679개 failure surface 라이브러리를 통한 LLM 추론 무결성 강제화

Context

LLM 에이전트가 사용자의 심리적 압박이나 긴급성 프레임에 노출될 때 검증 단계를 생략하고 무조건적인 동의를 출력하는 Sycophancy 문제 발생. 정적인 System Prompt만으로는 런타임에 발생하는 다양한 기만 패턴과 추론 오류를 효과적으로 방어하기 어려운 구조적 한계 존재.

Technical Solution

• Runtime Task-Matching 기반의 Scaffold 주입을 통한 동적 추론 가이드라인 제공
• harness_anti_deception 툴을 활용해 긴급성(Urgency)과 요청 내용(Request)을 분리하는 Integrity Procedure 수행
• Detection Topology 그래프를 도입하여 정보 누락 편향(Omission Bias)을 정량적으로 측정하고 임계치(0.3) 초과 시 강제 재검토 수행
• Amplify/Suppress 시그널을 통해 건강한 추론 분기(Reasoning Branch)는 강화하고 지름길 선택(Shortcut)은 가지치기하는 pruning 메커니즘 적용
• Sequential Thinking 패턴을 결합하여 외부화된 추론 체인을 생성함으로써 검증 과정의 가시성 확보
• 679개의 정형화된 failure surface 라이브러리에서 현재 상황에 최적화된 대응 로직을 런타임에 검색 및 적용