LangGraph로 구현하는 5가지 AI 에이전트 메모리 아키텍처 설계

Context

LLM은 기본적으로 stateless 구조로 동작함. 추론 시점에 Context Window 내에 존재하는 정보만 인지 가능함. 메모리 인프라 설계는 어떤 정보를 어떤 시점에 어떤 형태로 윈도우에 포함할지 결정하는 핵심 과제임.

Technical Solution

• Checkpointer와 Store를 엄격히 분리하여 Thread 단위의 일시적 상태와 Cross-thread 단위의 영구적 상태를 구분하는 설계
• Short Term Memory 구현을 위해 InMemorySaver 기반의 Checkpointer를 도입하여 동일 thread_id 내 대화 이력을 자동 복원하는 구조
• Long Term Memory 설계를 위해 InMemoryStore를 활용하여 사용자 선호도 등 세션 간 공유가 필요한 데이터를 저장하는 방식
• Working Memory 구현을 위해 StateGraph 내 특정 상태 변수를 정의하고 에이전트가 추론 과정에서 필요한 정보를 동적으로 업데이트하는 전략
• Episodic Memory 구현을 위해 과거의 특정 사건이나 경험을 Store에 기록하고 필요 시 검색하여 불러오는 기록 방식
• Semantic Memory 구현을 위해 FAISS 벡터 저장소를 활용한 RAG(Retrieval-Augmented Generation) 패턴 도입 및 지식 기반 검색 도구 연결 설계

Key Takeaway

메모리 설계의 핵심은 데이터의 생명주기에 따라 저장소를 분리하는 것임. 상태 유지의 범위(Thread vs User)에 따라 Checkpointer와 Store를 적절히 선택하는 아키텍처 결정이 시스템의 일관성을 결정함.