코드 변경 없는 Config-driven Agentic RAG 플랫폼 설계

Designing a config-driven agentic RAG platform for customer support

Ahmet Özel2026년 6월 8일3분intermediate

AI 요약

Context

제품 업데이트 및 운영 규칙 변경 시마다 발생하는 Python 코드 수정과 재배포의 비효율성 분석. 빈번한 지식 베이스 변경과 도구 추가로 인한 시스템 유지보수 비용 증가 문제 해결 필요.

Technical Solution

에이전트 동작, 도구 정의, 라우팅 규칙을 외부 설정 파일로 분리한 Config-driven 구조 설계
MCP(Model Context Protocol) 서버 도입을 통한 DB, Vector Store, OCR 등 이기종 도구의 인터페이스 표준화
단순 FAQ와 복잡한 질의를 분리하는 Lightweight Intent Router 배치로 불필요한 Agent Loop 진입 방지
LLM 기반의 반복적 Tool-calling 루프를 통한 계획 수립, 도구 실행, 결과 검증 단계의 체계화
Qdrant 기반 Vector Database와 Docling/PaddleOCR 파이프라인을 통합한 하이브리드 데이터 인입 구조 구축

실천 포인트

- 에이전트의 행동 양식과 권한을 코드와 분리하여 설정 파일로 관리하고 있는지 확인 - 모든 요청을 LLM 에이전트에 맡기기 전, Intent Router를 통한 비용 및 레이턴시 최적화 검토 - 이기종 도구 통합 시 개별 구현 대신 MCP와 같은 표준 인터페이스 계층 도입 고려 - 기능 구현 전, 설정 변경의 영향도를 측정할 수 있는 Eval Harness 구축 우선순위 설정

태그

#LLM Ops #Intent Routing #MCP #Config-driven Design #Agentic RAG

원문 읽기