AI Agent 신뢰성 확보를 위한 결정론적 제어 구조 및 장애 복구 아키텍처 설계

Context

모델의 추론 능력에만 의존한 AI Agent 설계로 인해 Production 환경에서 Silent Failure 및 무한 루프 발생. 특히 Timeout 발생 시 재시도 로직에 의한 데이터 중복 생성 등 외부 시스템과의 상호작용에서 예측 불가능한 사이드 이펙트 노출.

Technical Solution

• 도구의 모호성 제거를 위해 다목적 Tool을 단일 책임 원칙 기반의 Small-scoped Tools로 세분화하여 스키마 강제
• 모든 구조화된 응답에 대해 Schema Validation 계층을 도입하여 유효하지 않은 출력을 예외 상황이 아닌 일반 워크플로우 분기로 처리
• Idempotency 보장 로직과 Circuit Breaker를 적용하여 재시도로 인한 중복 데이터 생성 방지 및 무한 루프 차단
• 단계별 State Checkpointing을 통해 실패 지점부터의 Resume 기능을 구현하여 불필요한 중복 실행 제거
• 비가역적 액션(결제, 삭제 등)에 대해 모델의 신뢰도와 무관한 명시적 Human Approval Gate 설계
• 운영 중 발생한 실제 실패 사례를 Regression Test Suite에 편입하여 기능 개선 시 발생하는 Side Effect 방지