AI Agent의 Overthinking 해결을 위한 Workflow 중심 제어 프레임워크 구축

Context

대규모 LLM(Fable 5) 도입 시 높은 추론 능력에도 불구하고 과도한 Overthinking으로 인한 실행 시간 10배 증가 및 비용 상승 문제 발생. 단순 프롬프팅만으로는 복잡한 Task 수행 시 범위 확장과 AI Slop(불필요한 코드 생성) 제어가 어려운 한계 존재.

Technical Solution

• Human-in-the-loop 기반의 Workflow 제어 구조 설계를 통한 AI Agent의 자율성과 제어권 균형 확보
• Tight Objective 설정을 통한 Task 범위 제한 및 Acceptance Criteria 명시로 불필요한 추론 경로 차단
• 단계별 Steering 패턴을 적용하여 Agent의 이탈 발생 시 즉각적인 경로 수정 및 Context 압축 수행
• 정밀한 Validation 단계와 Regression Coverage 추가를 통해 AI 생성 코드의 사이드 이펙트 최소화
• 프라이버시 보존형 가이드 생성 프롬프트를 활용하여 내부 워크플로우의 일반화된 패턴 추출 및 표준화