On-Device AI 기반의 0-Server 미팅 기록 및 요약 시스템 설계

How to Run a Private AI Meeting Notetaker (Zoom and Google Meet, On-Device)

Mohammed Ali Chherawalla2026년 6월 25일4분intermediate

AI 요약

Context

기존 Cloud Notetaker 서비스의 외부 Bot 참여 방식에 따른 개인정보 유출 및 데이터 주권 상실 문제 분석. 벤더 서버로의 오디오 전송과 불투명한 데이터 보관 정책으로 인한 보안 취약점 해결 필요성 대두.

Screen Video, System Audio, Microphone를 동시에 캡처하는 로컬 레코딩 파이프라인 구축
whisper.cpp 엔진 기반의 Local Transcription으로 오디오-텍스트 변환 시 외부 통신을 완전히 차단한 Air-gapped 구조 설계
Local LLM을 통한 온디바이스 요약으로 데이터 전송 비용 제거 및 개인정보 보호 강화
AGPL-3.0 라이선스 기반의 오픈소스 코드로 블랙박스 없는 투명한 감사 가능성 확보
Local Disk 기반의 Persistence Layer 설계를 통한 검색 가능한 프라이빗 메모리 시스템 구현

실천 포인트

1. 외부 API 의존성을 제거하고 Local LLM/Whisper 도입 시 하드웨어 VRAM 요구사항(최소 8GB~16GB) 검토

2. 데이터 민감도가 높은 도메인에서 'On-Device Processing'을 통한 Compliance 준수 방안 고려

3. 사용자 동의 확보를 위한 시각적 레코딩 인디케이터 등 명시적 상태 제어 UI 설계 적용

태그