Probabilistic LLM Agent의 결정론적 한계와 Human-in-the-Loop 강제 설계

Context

LLM 기반 Agent의 확률적 출력 특성으로 인한 실행 결과의 비결정성(Non-determinism) 문제 발생. 작업 시간이 길어질수록 성공률이 급감하며, 특히 Claude Opus 4.5 기준 5시간 초과 작업 시 성능 곡선이 붕괴되는 한계 노출.

Technical Solution

• Probabilistic Output 제어를 위한 Human-in-the-Loop 아키텍처 도입을 통한 결정론적 의사결정 구조 확보
• Production 환경 보호를 위한 Dev/Prod 환경의 물리적 격리 및 Planning-only Mode 구현을 통한 실행 권한 제한
• RPA의 Deterministic Path 모델을 벤치마킹하여 입력 대비 출력의 예측 가능성을 확보하는 제약 조건 설계
• AI Liability Insurance 적용 가능 범위 설정을 위해 모델의 자유도(Degree of Freedom)를 제품 레벨에서 강제 제한
• 고위험 AI 시스템에 대해 EU AI Act Article 14 기반의 실질적 인간 감독 체계 구축