Plausible-neighbor substitution 탐지를 통한 AI 신뢰도 70% 개선

Context

전통적인 AI Hallucination은 즉각적인 식별이 가능하여 리스크가 낮음. 반면 정답과 통계적으로 유사한 오답을 제시하는 Plausible-neighbor substitution은 표면적 검토를 통과하여 전문 영역에서 심각한 오류를 유발하는 한계점 존재.

Technical Solution

• 통계적 인접 오답을 식별하기 위한 Cross-Examination Method 도입
• AI에게 '가장 흔한 오답'과 '현재 답변의 차이점'을 구체적으로 묻는 Targeted Questioning 설계
• 모델이 정답과 확률적 유사도가 높은 오답 후보군을 스스로 대조하게 하는 Discriminative Prompting 적용
• 법률, 의료, 코딩 등 도메인별 25가지 Failure Type을 정의한 검증 프로토콜 수립
• 단순 생성 단계에서 검증 단계로 분리한 2-step Verification 파이프라인 구축