단일 JS 파일로 구현한 Tool-use 기반 AI 문서 탐색 시스템

I turned my Trilium docs into an AI-assisted site with one JS file

Tulasinath Reddy2026년 5월 5일8분intermediate

AI 요약

Context

Trilium Notes 기반의 내부 문서 사이트에서 30여 개의 노트 중 원하는 정보를 찾기 위해 다수의 문서를 직접 읽어야 하는 UX 병목 발생. 벡터 임베딩 파이프라인 구축의 복잡성을 피하면서 효율적인 정보 추출이 가능한 경량 AI 인터페이스 필요.

RAG의 Vector DB 대신 Trilium의 계층 구조를 활용한 Tool-use 루프 설계
search_notes와 read_note라는 두 가지 함수를 LLM에 제공하여 모델이 직접 문서를 탐색하는 Agentic Workflow 구현
전체 문서 구조를 텍스트 기반 Table of Contents(TOC)로 변환하여 System Prompt에 주입함으로써 모델의 인덱싱 정확도 향상
Shadow DOM을 적용하여 기존 문서의 CSS 스타일 간섭을 원천 차단한 UI 격리 구조 설계
Client-side API Key 입력 방식을 채택하여 서버리스 운영 및 비용 관리 주체 분산
OpenAI-compatible API 규격을 채택하여 Gemini, DeepSeek 등 다양한 LLM Provider 간의 상호 운용성 확보

실천 포인트

1. 소규모 문서셋 대상 AI 챗봇 구현 시 임베딩 전 TOC 기반 Prompting 검토

2. 외부 위젯 삽입 시 CSS 오염 방지를 위해 Shadow DOM 적용

3. 범용성 확보를 위해 특정 벤더 API 대신 OpenAI-compatible 규격 사용

4. 보안 및 비용 최적화를 위해 내부 도구 한정 User-provided API Key 모델 고려

태그