피드로 돌아가기
How I Built an AI That Replies to Messages in My Voice
Dev.toDev.to
AI/ML

Relationship-based Fine-tuning과 Confidence Scoring을 통한 페르소나 AI 구현

How I Built an AI That Replies to Messages in My Voice

Charles Chayne2026년 5월 15일1intermediate

Context

기존 AI Writing Tool의 범용적 문체로 인한 정체성 상실 및 인간 관계 훼손 문제 발생. 단순한 메시지 생성 기능이 아닌 사용자의 고유한 Voice를 완벽히 재현하는 고정밀 페르소나 모델의 필요성 대두.

Technical Solution

  • Gmail, WhatsApp, Slack 통합을 통한 다중 채널 데이터 수집 및 인터페이스 구축
  • 관계 유형별(Close Friend vs Cold Contact) 전송 메시지 세그멘테이션을 통한 맞춤형 학습 데이터셋 구성
  • 관계 유형에 따라 모델의 응답 톤을 자동으로 전환하는 Context-Aware Voice Switching 로직 적용
  • 생성된 초안의 신뢰도를 정량화하는 Confidence Scoring 시스템 설계
  • 설정된 Threshold 기반으로 High Confidence 응답은 자동 전송하고 Low Confidence 응답은 사용자 검토를 거치는 Human-in-the-loop 워크플로우 구현

1. 페르소나 학습 시 데이터셋을 관계별로 세분화하여 Contextual Voice를 확보했는가

2. LLM 출력값의 신뢰도를 측정하는 Scoring 메커니즘이 포함되었는가

3. 신뢰도 임계치(Threshold)를 사용자 정의 가능하게 설계하여 시스템 제어권을 부여했는가

원문 읽기