피드로 돌아가기
Dev.toAI/ML
원문 읽기
DAG-TOML 기반의 상태 보존형 LLM 워크플로우 아키텍처 설계
Reviewing Patrick Collison's Ask for an LLM Workflow Tool
AI 요약
Context
LLM 기반 작업 시 채팅 이력이나 임시 폴더에 의존함에 따라 발생하는 Semantic Entropy 및 협업 중 상태 소실 문제 분석. 단순 챗봇 형태를 넘어 버전 관리와 거버넌스가 가능한 GNU Autotools와 Notion 결합 형태의 시스템 필요성 대두.
Technical Solution
- DAG-TOML 기반의 Typed DAG를 도입하여 작업 의도, 의존성, 수락 기준을 버전 관리 가능한 1급 객체로 정의
- CRDT 기반의 weave 시스템을 통한 멀티 액터 실시간 협업 및 구조적 연산 지원
- Ledger 및 Closure Roots 구조를 설계하여 추론 결과의 출처(Provenance)를 암호학적으로 증명하고 전이 가능한 형태로 보존
- AgentFederator를 통한 Multi-LLM 라우팅 전략으로 고수준 계획에는 Frontier Model을, 실행 단계에는 Quantized Open Model을 배치하여 비용과 속도 최적화
- sqry를 통한 시맨틱 그래프 및 메모리 레이어 구축으로 컨텍스트 유지 및 검색 효율성 강화
- Exhibition 레이어를 통해 추론 결과물에 서명과 속성을 부여하여 외부 공유 가능한 컴파일된 출력물 생성
실천 포인트
- LLM 워크플로우 설계 시 단순 프롬프트 체인이 아닌 상태 전이가 명시된 DAG 구조 검토 - 에이전트 간 협업 시 데이터 일관성 보장을 위한 CRDT 도입 고려 - 추론 결과의 신뢰성 확보를 위해 결과물과 입력 컨텍스트를 연결하는 Provenance 추적 메커니즘 설계 - 작업 복잡도에 따라 모델을 분리하여 배치하는 Multi-LLM Routing 전략 적용