피드로 돌아가기
InfoQInfrastructure
원문 읽기
Hyper-V 격리 기반의 inline 코드 실행 환경으로 AI 에이전트 워크플로우 통합
Azure Logic Apps Adds Sandboxed Code Interpreters to Agent Workflows
AI 요약
Context
기존 Logic Apps의 데이터 변환 및 분석 과정에서 Azure Function이나 외부 API 호출이 필수적이었던 구조적 제약 존재. 이로 인해 네트워크 홉 증가와 보안 경계 분산으로 인한 관리 복잡성 및 지연 시간 발생.
Technical Solution
- Azure Container Apps(ACA) dynamic sessions를 활용한 Hyper-V 기반 하드웨어 레벨 격리 환경 구축
- LLM이 생성한 Python, JavaScript, C#, PowerShell 코드를 런타임 내 Sandbox에서 즉시 실행하는 Inline Execution 구조 설계
- Network Isolation 설정을 통한 데이터 유출 방지 및 정의된 네트워크 경계 내 데이터 처리 보장
- ACA 세션 풀을 통한 파일 업로드, 코드 참조, 결과 다운로드로 이어지는 완결형 Data Pipeline 구현
- 모델 선택의 유연성을 확보하여 워크플로우 및 에이전트별 최적의 LLM 모델을 지정하는 제어 구조 채택
실천 포인트
1. LLM 생성 코드 실행 시 OS 수준의 완전 격리가 필요한 경우 gVisor나 V8 Isolate보다 Hyper-V microVM 검토
2. 외부 API 호출 없이 워크플로우 내부에서 데이터 전처리가 필요한 경우 Inline Code Interpreter 도입 고려
3. 에이전트의 Hallucination으로 인한 시스템 파괴를 방지하기 위해 Read-only 파일 시스템 및 네트워크 격리 설정 확인