LLM Wrapper를 넘어선 Event-driven Runtime 기반의 Production-grade AI Agent 설계

Context

단순 Tool calling 중심의 AI Agent 구현은 State 관리 부재와 Tool loop 무한 반복 등 런타임 불안정성을 야기함. 모델 성능에만 의존하는 Model Wrapper 방식으로는 복잡한 프로덕트 환경의 신뢰성 요구사항을 충족하기 어려운 한계 노출.

Technical Solution

• AI Agent를 단순 함수가 아닌 상태 유지 및 실행 제어가 가능한 Workflow Runtime으로 정의하여 설계
• 구조화된 Event Stream을 도입하여 UI, API, Persistence Layer가 동일한 상태 변화를 공유하는 일관성 확보
• Max Turn Limit 및 Abort Signal 전파 체계를 구축하여 비정상적인 Tool loop 차단 및 리소스 낭비 방지
• Tool 실행 시 단순 스키마 정의를 넘어 Governance 정책을 적용하여 권한 경계 및 실행 안전성 강화
• 모델 출력과 Lifecycle Event를 분리하여 스트리밍함으로써 사용자에게 내부 구현 노이즈 없는 투명한 상태 제공
• 실행 이력을 Persistence Layer에 저장하여 중단된 지점부터의 Resume 및 Undo 기능 구현