무한 루프 AI 에이전트 비용 $437 손실을 막는 'In-process Brake' 설계

Context

Autonomous Agent가 동일한 Tool-call을 반복하거나 추론 상태가 정체되는 'Silent Failure' 발생 시 기존 Observability 도구로는 실시간 제어가 불가능한 한계 존재. LLM의 특성상 에러 없이 정상적인 Response를 지속적으로 반환함에 따라 비용 폭증 후 사후 인지가 가능한 구조적 취약점 노출.

Technical Solution

• Tool-call Loop 탐지를 위한 동일 인자 기반의 반복 호출 횟수 제한 로직 구현
• Agent State의 Hash 값을 비교하여 상태 변화가 없는 Stasis Steps를 측정하는 정체 구간 감지 메커니즘 도입
• 내장 Pricing Table을 통한 실시간 Token 소모량 추적 및 설정된 Budget USD 도달 시 즉각적인 프로세스 중단 처리
• 프레임워크 의존성을 제거한 Pure Python 기반의 Lightweight Wrapper 설계로 다양한 LLM SDK 및 Agent Framework와 호환성 확보
• TripError 예외 처리를 통해 단순 중단 외에 Slack Webhook이나 Human-in-the-loop 프롬프트로 연결 가능한 확장 인터페이스 제공