피드로 돌아가기
Dev.toInfrastructure
원문 읽기
WASM 샌드박스와 Tool Trait 기반의 3계층 AI Agent 런타임 설계
BoxAgnts Introduction (4) — Core Architecture
AI 요약
Context
AI Agent의 유연한 도구 확장성과 실행 보안성 확보라는 상충하는 요구사항 해결 필요. 기존의 단일 계층 구조로는 LLM의 비결정적 실행 결과로 인한 시스템 불안정성과 보안 취약점 제어가 어려웠던 한계 존재.
Technical Solution
- Outer, Middle, Bottom의 3계층 분리 구조를 통한 관심사 분리와 책임 전가 설계
- WebSocket(명령 전송/실시간 응답)과 REST API(이력 로딩/캐싱)의 채널 분리로 Long-polling 문제 해결 및 데이터 전송 효율 최적화
- Tool trait 기반의 비대칭 정보 설계로 AI 모델에는 메타데이터만 노출하고 실제 실행 로직은 시스템 내부로 은닉한 정보 은닉 구현
- Wasmtime 엔진 기반의 11차원 RunOption 및 3단계 Defense-in-depth 체계 구축으로 코드 실행 환경의 보안 격리 보장
- Rust Native Tool과 WASM Tool의 공존을 허용하는 실용적 하이브리드 실행 구조 채택
실천 포인트
- LLM 인터페이스 설계 시 모델이 필요한 메타데이터와 시스템이 처리할 실행 로직을 분리하는 Trait 구조 검토 - 실시간 스트리밍 데이터와 상태성 데이터의 전송 채널을 WebSocket과 REST로 이원화하여 부하 분산 - 외부 코드를 실행해야 하는 런타임 환경에서 WASM 샌드박스와 다차원 제어 옵션(Memory, Stack, Fuel 등) 적용 고려