SimpleQA 95% 정확도의 Fully-Private AI 리서치 시스템 구축

Context

기존 상용 AI 서비스의 데이터 유출 우려와 할루시네이션 문제로 인한 신뢰도 저하 상황 발생. 외부 API 의존도를 낮추고 로컬 데이터와 웹 소스를 통합 분석하는 고신뢰성 리서치 환경의 필요성 증대.

Technical Solution

• Ollama와 SearXNG를 결합하여 외부 유출 없는 Fully-Local 추론 및 검색 파이프라인 설계
• 복잡한 질의를 다수의 Sub-queries로 분해하여 검색 효율을 높이는 Iterative Research 전략 채택
• Web, arXiv, PubMed 등 이기종 소스에서 수집한 정보를 합성하고 저품질 데이터를 필터링하는 정제 로직 구현
• SQLCipher 기반 AES-256 암호화를 통해 사용자 데이터와 API Key를 보호하는 Zero-Knowledge 보안 모델 적용
• Docker Compose를 통한 Ollama, SearXNG, LDR 앱의 서비스 오케스트레이션으로 배포 복잡성 제거
• 수집된 소스를 인덱싱하여 시간이 흐를수록 성능이 향상되는 누적형 Knowledge Base 구조 설계