Deepgram v2 전환으로 전사 전사 지연시간 200ms 단축 및 STT 안정성 확보

How to Migrate from Deprecated VAPI Transcriber Endpoints to Deepgram v2 in Retell AI Agents

CallStack Tech2026년 4월 16일17분intermediate

AI 요약

Context

VAPI의 기존 native transcriber endpoint 지원 종료에 따른 시스템 장애 위험 발생. 기존 레거시 STT 설정 유지 시 콜 도중 타임아웃 및 무응답 현상이 발생하는 구조적 한계 존재.

transcriber provider를 'retell'에서 'deepgram'으로 변경하고 nova-2 모델을 명시하여 최신 STT 엔진 적용
400ms였던 기본 endpointing 값을 255ms로 조정하여 응답 속도를 높이되, 사용자 발화 특성에 맞춰 350-400ms로 최적화하는 튜닝 수행
100-200ms 간격으로 전송되는 partial transcripts로 인한 서버 부하 방지를 위해 debounce 패턴 적용 및 final transcript 중심의 처리 로직 설계
Webhook 페이로드 구조 변경에 대응하여 confidence 및 word-level timestamp 필드를 처리하는 핸들러 업데이트
API 기반의 직접 마이그레이션 경로 부재에 따라 Assistant Object를 직접 업데이트하는 설정 변경 방식 채택

실천 포인트

1. Assistant 설정 내 transcriber provider 및 model(nova-2) 최신화 여부 확인

2. 사용자 발화 속도에 따른 endpointingMs 임계값(350-400ms) 최적화

3. Webhook 핸들러 내 transcriptType이 'final'인 경우만 비즈니스 로직을 수행하도록 필터링 구현

4. Deepgram v2의 confidence 지표를 활용한 전사 품질 모니터링 임계값(

0.85) 설정

태그