Local LLM Reasoning Chain 도입을 통한 차트 왜곡 탐지 정확도 향상

Context

데이터 시각화의 의도적 왜곡을 탐지하기 위해 Gemma 4 기반의 Local LLM 아키텍처 채택. 초기 설계에서 JSON mode를 사용했으나, 모델의 추론 단계가 생략되어 truncated-axis와 같은 복잡한 패턴 탐지 실패 및 낮은 분석 품질 문제 발생.

Technical Solution

• Ollama를 통한 gemma4:e4b 모델 로컬 배포로 기업 내부 데이터 유출 방지 및 Privacy 보장
• format: 'json' 옵션 제거를 통한 모델의 내재적 Chain-of-Thought(CoT) 추론 공간 확보
• '추론 과정 서술 후 JSON 출력'으로 이어지는 명시적 절차형 Prompting 구조 설계
• JSON Fence 파싱 로직 도입을 통해 비정형 추론 텍스트와 정형 데이터의 분리 추출 구현
• MoE(Mixture of Experts) 기반 gemma4:26b 모델 적용으로 파라미터 효율성 및 탐지 결정력 강화
• Vanilla JS 및 Canvas API 기반 Frontend 구현으로 외부 의존성 제거 및 경량화 달성