피드로 돌아가기
Dev.toAI/ML
원문 읽기
Human-Guided AI 설계를 통한 챗봇 예측 가능성 확보 및 Monorepo 기반의 빠른 배포 환경 구축
Building Your First AYW Bot: A Step-by-Step Guide
AI 요약
Context
경직된 스크립트 기반 챗봇의 낮은 유연성과 완전 자율 AI의 예측 불가능성으로 인한 신뢰도 저하 문제 발생. 정교한 Human Guidance와 AI의 조화를 통한 고객 경험 최적화 필요성 대두.
Technical Solution
- Monorepo 아키텍처 채택을 통한 Backend, Frontend, Shared Packages 간의 의존성 관리 및 개발 생산성 향상
- Prisma ORM 기반의 PostgreSQL 스키마 설계를 통해 User, Conversation, Message 간의 관계형 데이터 정합성 확보
- BotConfig 인터페이스 정의를 통한 Bot 타입별 System Prompt, Temperature, MaxTokens의 설정값 분리 및 동적 할당 구조 설계
- gpt-4-turbo-preview 모델과 최신 10개의 Message History를 컨텍스트로 제공하여 대화의 맥락 유지 및 일관된 응답 생성
- Bot Type 기반의 라우팅 로직을 구현하여 사용자 의도에 따라 Welcome, Support, Sales, Feedback 봇으로 전환하는 서비스 계층 설계
실천 포인트
- AI 챗봇 설계 시 하드코딩된 프롬프트 대신 BotConfig와 같은 설정 객체를 통한 동적 주입 구조 검토 - 대화 맥락 유지를 위해 DB에서 최신 N개의 메시지를 가져오는 Sliding Window 방식의 History 관리 적용 - Monorepo 구조를 도입하여 API 정의와 프론트엔드 타입 정의의 동기화 비용 최소화 - LLM의 무분별한 응답 방지를 위한 System Prompt 기반의 역할 정의 및 Temperature 파라미터 최적화