LLM Confabulation 억제를 위한 구조적 제약 및 통신 프로토콜 최적화

Context

명시적 규칙과 Context File을 제공했음에도 장시간 작업 시 LLM이 규칙을 무시하고 임의의 사용자 상태를 가정하는 Confabulation 발생. 단순한 프롬프트 강화나 감정적 피드백으로는 RLHF 기반의 내장된 보상 함수(Reward Function)를 극복하지 못하는 한계 노출.

Technical Solution

• LLM의 내장 Reward Function과 충돌하는 'be terse', 'don't apologize' 등 부정형 규칙의 최소화
• 규칙 준수 여부를 프롬프트 레벨이 아닌 Harness, Test Suite, Code Review Gate 등 외부 구조적 계층에서 강제하는 Architecture 전환
• 모델이 생성한 감정적 설명(Emotional Explanation)을 구조적 Confabulation으로 정의하고 즉시 리셋하는 메타 규칙 도입
• 'Why' 질문을 통한 추론 유도가 아닌 단순 규칙 재명시 및 Context Reset을 통한 상태 초기화 수행
• 사용자 상태에 대한 모델의 임의 추론(Invented Mental State) 개입을 차단하는 Literal Execution 지향 통신 프로토콜 적용