AI 런타임 인프라 추상화를 통한 Task-Oriented 에이전트 아키텍처 설계

Context

단순 챗봇을 넘어 실제 작업을 수행하는 AI 에이전트 구현 시 State Management와 Execution Infrastructure 구축에 과도한 공수가 투입되는 한계 존재. 프롬프트 엔지니어링보다 샌드박스 환경 구축, 세션 추적, 리소스 모니터링 등 인프라 운영 부담이 생산성의 병목 지점으로 작용함.

Technical Solution

• Reasoning Layer와 Execution Layer를 완전히 분리하여 모델은 의사결정에만 집중하고 런타임이 안전한 실행을 보장하는 구조 채택
• Agent Layer를 통해 모델 정의와 도구 제약 사항을 캡슐화한 재사용 가능한 Job Description 설계
• Environment Layer에서 사용자별 격리된 Container를 제공하여 패키지 의존성 해결 및 교차 사용자 오염 리스크 제거
• Session Layer를 도입해 Tool Call, 파일 생성, 실행 로그를 포함한 완전한 Audit Trail을 유지함으로써 디버깅 및 컴플라이언스 대응
• Token Usage 기반 과금과 Active Container Runtime 기반 과금을 결합한 하이브리드 비용 모델 적용