LLM Hallucination 해결을 위한 Tool-use 기반 실시간 Stock Screener 설계

Context

LLM의 내부 Training Data에 의존한 금융 분석은 데이터의 시차와 Hallucination으로 인해 신뢰성 확보가 불가능함. 텍스트 예측 모델의 한계로 인해 실시간 시장 캡, EPS 등 동적 수치 데이터 처리 시 부정확한 정보 생성 문제가 발생함.

Technical Solution

• LLM을 데이터 소스가 아닌 Query Orchestrator로 정의하여 역할 분리
• EODHD Screener API를 통한 정형 데이터(Structured JSON) 수집 레이어 구축
• Tool Definition 설계를 통해 자연어 목표를 [field, operator, value] 형태의 정밀 쿼리로 변환
• 예측 가능한 Typed JSON 응답 구조를 통해 LLM의 추론 안정성 확보
• Function-Tool-Loop 구조의 단순 파이프라인으로 에이전트 프레임워크 없이 구현
• 정적 지식 기반의 답변 생성을 외부 API 기반의 실시간 데이터 검증 구조로 전환