상호작용 모델 - 인간-AI 협업을 위한 확장 가능한 접근법

Context

기존 턴 기반 LLM은 사용자의 발화 종료 후 응답을 생성하는 구조로 인해 실시간 협업 시 병목 발생. 외부 하네스를 통한 VAD(Voice Activity Detection) 기반 제어는 모델의 지능적 개입과 능동적 상호작용을 제한하는 한계 노출.

Technical Solution

• 200ms 단위의 Micro-turn 설계를 통한 입력-출력 스트림의 연속적 교차 처리
• Interaction Model과 Background Model의 이원화 구조를 통한 실시간성 및 심층 추론 동시 확보
• 모델 내부로 상호작용 로직을 내재화하여 Scaling Law에 따른 협업 능력 향상 유도
• dMel 형태의 오디오 신호를 가벼운 임베딩 레이어로 처리하는 Encoder-less 조기 융합 구조 채택
• Background Model의 비동기 추론 결과를 Interaction Model이 실시간 대화 흐름에 맞춰 통합하는 스트리밍 매커니즘 구현