단순 챗봇을 넘어 다중 소스 컨텍스트 기반 Memory 구조를 갖춘 AI Assistant 설계

Context

단일 세션 내에서만 유효한 휘발성 대화 구조로 인한 사용자 컨텍스트 유지 불가 문제 발생. 단순한 대화 기록 저장을 넘어 프로젝트, 결정 사항, 관계성 등 고차원적 지식 체계 구축의 필요성 대두.

Technical Solution

• Raw Conversation 저장 방식에서 탈피하여 지식 단위를 연결된 조각으로 구조화하는 Knowledge Organization 도입
• Meeting, Email, Document 등 분산된 데이터 소스를 통합하여 검색하는 Multi-source Context Retrieval 설계
• '질문 이해 → 관련 컨텍스트 검색 → 결과 랭킹 → 근거 기반 생성'으로 이어지는 Retrieval-Centric Pipeline 구축
• LLM의 환각 현상 방지 및 신뢰도 확보를 위해 생성 결과에 원천 데이터 출처를 명시하는 Source Attribution 메커니즘 적용
• 단순 생성(Generation)보다 정확한 정보 추출(Retrieval)에 우선순위를 둔 아키텍처 최적화