피드로 돌아가기
Dev.toAI/ML
원문 읽기
Human-Guided AI 기반의 Monorepo 챗봇 아키텍처 설계
Building Your First AYW Bot: A Step-by-Step Guide
AI 요약
Context
경직된 시나리오 기반 챗봇의 낮은 유연성과 완전 자율형 AI의 예측 불가능성으로 인한 신뢰도 저하 발생. 사용자의 의도 파악과 전문가의 가이드라인을 결합한 하이브리드 제어 구조의 필요성 대두.
Technical Solution
- Monorepo 구조 채택을 통한 Backend, Frontend, Chatbot 로직 간의 코드 공유 및 배포 효율성 최적화
- Prisma ORM 기반의 PostgreSQL 스키마 설계를 통한 Conversation 및 Message 데이터의 상태 관리와 영속성 확보
- BotConfig 인터페이스 정의를 통한 Bot 타입별 System Prompt, Temperature, MaxTokens의 동적 설정 구조 구현
- OpenAI gpt-4-turbo-preview 모델 연동 및 최근 10개의 Message History를 Context Window에 포함하는 슬라이딩 윈도우 방식의 대화 유지
- User Intent 분석에 따른 Welcome Bot에서 Specialist Bot으로의 동적 라우팅 메커니즘 설계
실천 포인트
- LLM의 응답 제어를 위해 Bot 타입별 전용 System Prompt를 정의한 Configuration 레이어 분리 검토 - 대화 문맥 유지를 위한 Database 기반의 Message History 적재 및 API 요청 시 최신 N개 레코드 추출 로직 적용 - Monorepo 아키텍처를 통한 API 타입 정의 및 유틸리티 패키지 공유로 Frontend-Backend 간 타입 안전성 확보