피드로 돌아가기
원문 읽기
LINE Engineering
AI/MLODW #5: 벡터 DB와 에이전트 스킬로 RAG 시스템 만들기
ChromaDB와 MCP 기반 RAG 시스템으로 500여 건 기술 문서 검색 효율화
AI 요약
Context
방대한 양의 개발 가이드라인과 기술 문서로 인한 정보 검색 비용 증가 및 팀원 간 지식 공유 부하 발생. 단순 키워드 검색의 한계를 극복하고 자연어 질의를 통해 정확한 기술 지식을 추출하는 구조적 필요성 대두.
Technical Solution
- ChromaDB를 활용한 Local Vector Database 구축으로 마크다운 기반 기술 문서의 임베딩 및 고속 검색 환경 조성
- MCP(Model Context Protocol)를 통한 코딩 에이전트(Claude Code)와 벡터 DB 간의 인터페이스 연결
- 에이전트 스킬(Agent Skill) 설계를 통해 DB 컬렉션 정보와 메타데이터 활용법을 컨텍스트에 사전 정의하여 프롬프트 복잡도 감소
- '문제 상황 -> MCP 도구 호출 -> 벡터 DB 검색 -> 응답 생성'으로 이어지는 RAG 파이프라인 구축
- 사내 클라우드 Flava 배포를 통한 지식 베이스의 전사적 공유 아키텍처 확장
실천 포인트
- 기술 문서 적재 시 SE-0400과 같은 고유 ID와 Status 등 정형화된 Metadata를 함께 저장하여 필터링 정밀도 향상 - LLM의 컨텍스트 윈도우 낭비를 줄이기 위해 DB 구조와 사용법을 정의한 전용 에이전트 스킬 파일 작성 - 검색 결과의 Truncation 발생 시 n_results 파라미터를 조정하는 최적화 전략 검토