피드로 돌아가기
GeekNewsAI/ML
원문 읽기
Show GN: Rust/Tauri로 개발한 완전 자동화 AI 소설 생성기 'NovelGen AI' (로컬 LLM/Google API지원)
Rust/Tauri 기반 로컬 LLM 파이프라인을 통한 AI 소설 생성 자동화
AI 요약
Context
챗봇 기반 소설 작성 시 발생하는 반복적인 Prompt 입력과 Context 유지의 번거로움을 해결하고자 함. 단일 채팅 인터페이스의 한계를 넘어 플롯 설계부터 챕터 생성까지 이어지는 자동화 워크플로우 구축이 필요함.
Technical Solution
- 가벼운 런타임과 네이티브 성능 확보를 위한 Rust 및 Tauri 프레임워크 채택
- Seed 문장 입력 후 전체 Plot 구성과 챕터별 본문 생성을 연쇄적으로 수행하는 자동화 파이프라인 설계
- Google Gemini API와 OpenAI 호환 API 규격 적용을 통한 Local LLM 및 Cloud API의 유연한 전환 구조 구현
- Markdown 및 KaTeX 렌더링 엔진 내장을 통한 생성 콘텐츠의 즉각적인 Preview 환경 제공
- 시스템 프롬프트 커스텀 및 Batch 작업 기능을 통한 생성 제어력 강화
- 상태 관리 및 파일 시스템 접근을 위한 Rust 백엔드 기반의 저장/불러오기 로직 구현
실천 포인트
- Local LLM 연동 시 OpenAI 호환 API 규격을 적용하여 모델 교체 비용 최소화 - 장문 생성 시 Context 유지를 위한 단계적 파이프라인(Seed -> Plot -> Chapter) 설계 검토 - 데스크톱 앱 개발 시 리소스 효율성과 성능 최적화를 위한 Rust/Tauri 조합 고려