피드로 돌아가기
InfoQAI/ML
원문 읽기
Structured Memory 채널 도입을 통한 Long-running Multi-agent의 Context 정합성 확보
How Slack Manages Context in Long-running Multi-agent Systems
AI 요약
Context
메시지 이력 누적으로 인한 LLM Context Window 제한 및 응답 품질 저하 문제 발생. 수백 회의 Request와 Megabytes 단위의 Output을 생성하는 Multi-agent 환경에서 전체 이력 전달 방식의 비효율성 확인.
Technical Solution
- Coordinator/Dispatcher 구조 채택을 통한 의사결정 주체(Coordinator)와 전문 수행 주체(Experts/Critics)의 역할 분리
- Director's Journal 도입으로 작업 메모리를 구조화하여 전체 에이전트의 일관된 Narrative 유지
- Critic's Review 설계를 통한 증거 기반 검증 및 Credibility Score 부여로 Hallucination 리스크 최소화
- Critic's Timeline 구축으로 최신 Review와 Journal을 병합하여 중복 제거 및 충돌 해결을 수행하는 최적화된 이력 관리
- 단순 Log 적재 방식에서 탈피하여 구조화된 Summary를 기반으로 하는 단계적 Context 전달 체계 구축
실천 포인트
- LLM Context Window 한계 도달 전 단계에서 Structured Summary 전략 수립 여부 검토 - 전문 에이전트(Expert)의 결과물을 객관적으로 검증하는 Critic 에이전트 배치 및 Scoring 시스템 설계 - 전체 이력 대신 목적별로 분리된 Context Channel(작업 메모리, 검증 보고서, 타임라인) 운영 고려