LLM 날짜 환각 제거를 위한 Deterministic Tooling 기반의 4레이어 파이프라인 설계

Stop letting LLMs hallucinate dates — a tool for AI agents

Fedishin Nazar2026년 5월 28일3분intermediate

AI 요약

Context

LLM의 확률적 텍스트 생성 특성으로 인한 날짜 매핑 및 범위 계산의 Hallucination 발생. 단순 프롬프팅을 통한 해결의 한계로 인해 비결정적 추론을 결정적(Deterministic) 도구로 분리하는 구조적 전환 필요.

LLM 내부 추론을 배제하고 외부 도구로 날짜 해석을 위임하는 resolveDate Tooling 아키텍처 설계
Input, Preprocess, Rule Engine, Resolver로 구성된 Duckling 스타일의 4레이어 파이프라인 구축을 통한 독립적 테스트 보장
Rule Engine 내 Token 및 IR Node 기반의 반복적 합성(Compositional) 매칭을 통한 Fixpoint 도달 방식 채택
Locale을 엔진과 분리한 데이터 기반 설계로 언어 확장 시 엔진 수정 없이 소스 파일 추가만으로 대응 가능한 구조 구현
Multi-candidate Output 방식을 통해 모호한 날짜 표현에 대해 Confidence Score 기반의 후보군을 제공하여 Agent의 재랭킹 가능성 확보
Plugin API를 통해 Booking 패턴 등 도메인 특화 로직을 Core 엔진과 분리하여 확장성 확보

실천 포인트

1. LLM에 날짜 계산을 맡기지 말고 전용 Parsing Library를 Tool로 제공했는지 확인

2. 다국어 지원 시 언어 규칙을 엔진 코드가 아닌 데이터 설정(Locale file)으로 분리했는지 검토

3. 단일 정답 강요 대신 Confidence Score가 포함된 후보군을 반환하여 상위 레이어에서 컨텍스트 기반으로 판단하게 설계했는지 확인

태그