피드로 돌아가기
Dev.toAI/ML
원문 읽기
Pre-execution을 넘어 Runtime 전 영역을 제어하는 AI Agent Governance 설계
Why production AI teams choose Waxell over AGT
AI 요약
Context
기존 AGT 아키텍처는 Tool call 직전의 Pre-execution 단계만 검증하는 In-process 모델로 설계됨. 이로 인해 실행 중 발생하는 Runaway loop, Data leakage, Cascade failure 등 Runtime 단계의 동적 장애를 제어하지 못하는 구조적 한계 존재.
Technical Solution
- Framework-attached 방식을 벗어나 External Agent와 Runtime 자체를 제어하는 3-Plane Governance 아키텍처 채택
- Pre, Mid, Post-execution 전 과정을 포괄하는 Execution Arc 설계를 통한 실행 중단 및 Human gate 제어 구현
- Tool call 경계가 아닌 Retrieval boundary에서 데이터를 검증하는 Signals 및 Domains 스키마 도입으로 데이터 유출 방지
- YAML 기반 정적 배포 방식 대신 Runtime injection이 가능한 Dynamic Policy Engine을 구축하여 무중단 정책 업데이트 실현
- 157개 라이브러리에 대한 Auto-instrumentation을 통해 프레임워크 종속성 없는 Observability 레이어 확보
- BudgetLedger를 통한 Tree-scoped 비용 추적 및 실행 중 실시간 예산 강제 집행 로직 적용
실천 포인트
1. 에이전트 설계 시 Pre-execution 외에 Mid-run 중단 및 Post-execution 검증 로직이 포함되었는지 확인
2. Tool call 차단뿐 아니라 Retrieval 결과값에 대한 데이터 레이어 필터링 단계 검토
3. 정책 변경 시 재배포 없이 적용 가능한 Dynamic Policy 적용 방안 설계
4. 여러 에이전트가 얽힌 Spawn tree 구조에서 비용 및 상태를 추적할 수 있는 전역 Ledger 도입 검토
태그