인간 대비 2배 효율, Voice AI 에이전트 인프라 설계 전략

Context

기존 인간 상담사 중심의 채권 회수 프로세스는 높은 운영 비용 발생. 대규모 소비자 상호작용을 처리할 실시간 Voice AI 인프라 부족. 레거시 Voice AI 시스템의 확장성 및 맞춤형 워크플로우 유지 한계.

Technical Solution

• LiveKit 기반의 실시간 Voice AI 인프라 구축 및 오케스트레이션 설계
• 상태 관리와 지연 시간 최적화를 포함한 실시간 음성 에이전트 아키텍처 구현
• ASR, STT, TTS 및 Turn-taking, Interruption handling 최적화를 통한 음성 품질 개선
• 컴플라이언스 준수 문구와 가드레일을 포함한 엔드투엔드 Prompting 전략 수립
• A/B 테스트 및 회귀 테스트를 포함한 Voice 에이전트 성능 평가 프레임워크 구축
• Node.js, AWS, SQL 기반의 확장 가능한 백엔드 시스템 및 툴링 개발

Impact

• 인간 상담사 대비 2배 높은 성과 달성
• 연간 반복 매출(ARR) 200만 달러 달성

Key Takeaway

실시간 음성 AI 서비스는 단순한 모델 성능보다 ASR/TTS 최적화와 상태 관리 같은 인프라 수준의 오케스트레이션 능력이 사용자 경험을 결정함.