피드로 돌아가기
Dev.toAI/ML
원문 읽기
Legacy ERP 리포팅의 Agentic RAG 전환을 통한 Conversational BI 구현
LLM Engineering: Architecting Agentic RAG and Conversational BI
AI 요약
Context
Sage, Dynamics 365 등 상이한 스키마를 가진 Legacy ERP 시스템 기반의 정적 리포팅 구조로 인한 데이터 추출 병목 발생. 단순 Prompt Engineering만으로는 복잡한 엔터프라이즈 데이터의 정확한 컨텍스트 유지와 동적 분석 요구사항 충족 불가.
Technical Solution
- 데이터 인덱싱, Retrieval 전략, Re-ranking 단계 최적화를 통한 RAG 파이프라인의 정밀도 향상
- Multi-agent Orchestration 도입을 통한 정보 수집, 요약, 의사결정 단계의 기능적 분리 및 전문성 확보
- Knowledge Graph 기반의 구조적 데이터 통합으로 Semantic Understanding 및 복잡한 엔티티 관계 추론 가능
- LangChain 및 LlamaIndex 프레임워크 기반의 RAG 파이프라인과 Agentic Behavior 제어 구조 설계
- 가드레일(Guardrails) 및 평가 전략(Evals) 구축을 통한 엔터프라이즈급 신뢰성 및 안전성 확보
실천 포인트
- 복잡한 데이터 스키마 통합 시 Vector DB 단독 사용보다 Knowledge Graph 병행 검토 - 단일 LLM 처리 대신 작업 단위별 전용 Agent를 배치하는 Multi-agent Orchestration 적용 - 프로토타입 단계에서 운영 단계 전환을 위해 Evals 및 Guardrails 설계 우선순위 설정 - ETL 파이프라인 설계 시 Conversational BI를 위한 데이터 정규화 및 최적화 포맷 적용