RAG Pipeline 기반 비정형 입력의 JSON 구조화 및 자동 Triage 시스템 구현

Taming Unpredictable User Input: Building a RAG Triage Agent in Node.js

Omar Lashin2026년 5월 12일2분intermediate

AI 요약

Context

시민들의 비정형 자연어 보고서를 데이터베이스 스키마에 맞게 분류하는 과정에서 수동 라우팅으로 인한 병목 발생. 단순 LLM 활용 시 데이터베이스가 허용하지 않는 카테고리를 생성하는 Hallucination 위험 존재.

Database Schema와 City Department Rule을 LLM에 제공하여 결정론적 분류를 유도하는 RAG Pipeline 설계
gpt-4-turbo 모델의 response_format: { type: "json_object" } 설정을 통한 출력 데이터의 구조적 무결성 보장
Node.js 환경 내 LLM 응답을 JSON으로 파싱하여 Express.js 백엔드에서 즉시 처리 가능한 데이터 파이프라인 구축
사용자 입력과 컨텍스트를 결합한 System Prompt 설정을 통한 엄격한 카테고리 및 Severity 매핑 로직 구현

실천 포인트

1. 비정형 데이터를 정형 데이터로 변환 시 DB 스키마를 LLM 컨텍스트에 직접 주입하여 Hallucination 방지

2. API 수준의 JSON Mode 설정을 통해 파싱 에러를 최소화하고 백엔드 인터페이스 안정성 확보

3. 자연어 처리 레이어를 추상화하여 비즈니스 로직이 AI의 불확실성에 노출되지 않도록 설계

태그