Client-side LLM 연동을 통한 Zero-Backend 기반 문서 최적화 설계

Context

중앙 서버를 통한 데이터 처리 방식의 프라이버시 침해 우려 및 보안 제약 해결 필요성 대두. 기존 서버 기반 AI 처리 모델의 데이터 전송 오버헤드와 보안 리스크를 제거한 아키텍처 요구됨.

Technical Solution

• Bring Your Own Key(BYOK) 모델 채택을 통한 서버리스 API 연동 구조 설계
• Editor와 LLM Provider 간 Direct Connection을 통한 데이터 경로 단축 및 보안성 강화
• OpenAI, Anthropic, Google 및 Ollama 등 멀티 Provider 지원을 위한 추상화 계층 구현
• Local LLM 연동을 통한 Air-gapped Workflow 환경 구축으로 데이터 외부 유출 원천 차단
• Selection-based Action 인터페이스를 통한 부분적 컨텐츠 처리 및 제어권 확보
• 템플릿 시스템과 AI Assist의 분리 설계를 통한 Content와 Presentation의 관심사 분리

Impact

• 45분 분량의 미팅 노트를 5분 이내의 Executive Summary로 변환하는 워크플로우 달성

Key Takeaway

사용자 데이터의 기밀성이 중요한 도메인에서는 Backend를 배제하고 Client가 직접 Provider와 통신하는 Direct-to-LLM 아키텍처가 보안과 확장성 측면에서 유효한 전략임.