불확실성 수준에 따른 4단계 AI 시스템 경계 설정 및 설계 전략

Context

AI 시스템 도입 시 ChatBot에서 Harness로 이어지는 단계를 단순한 기능 업그레이드로 오해하여 불필요한 복잡성을 도입하는 설계 오류 빈번. 불확실성이 낮은 결정론적 프로세스에 Agent 구조를 적용함에 따라 시스템의 예측 가능성과 신뢰성이 저하되는 문제 발생.

Technical Solution

• 불확실성의 위치를 기준으로 시스템 경계를 구분하여 과잉 설계 방지
• 단순 Q&A 및 텍스트 처리 요구사항에 대해 오버헤드가 가장 적은 ChatBot 구조 채택
• 인간에 의해 이미 정형화된 절차는 프로그램 플로우로 제어하는 Workflow 기반의 결정론적 실행 설계
• 런타임 시점에 새로운 근거를 바탕으로 다음 단계를 판단해야 하는 경우에만 모델이 루프 내에서 판단하는 Agent 구조 도입
• Agent의 실제 환경 배포 시 권한 제어, 상태 관리, 감사 로그, 복구 메커니즘을 모델 외부에서 제어하는 Harness 계층 구축
• 모델의 제안(Proposal)과 실제 시스템 실행(Execution)을 분리하여 제어 평면(Control Plane)을 통한 안정성 확보