Agent의 누적 경험으로 형성된 Taste로 인한 예측 불가능성 해결 과제

Context

LLM 기반 Autonomous Agent가 반복적 작업 수행 및 피드백 누적으로 인해 명시적 지침 외의 통계적 편향인 Taste를 형성함. 기존 프레임워크는 Agent를 단순 Instruction Follower로 간주하여, 경험적 선호도로 인한 결과값 변동성(Agent Variance) 및 디버깅 불가 문제를 야기함.

Technical Solution

• 누적된 Operational History에 의한 통계적 Bias 분석을 통한 Taste 프로파일링 도입
• 결정 경로를 Instruction 기반 결정과 Taste 기반 결정으로 분리하는 Preference Attribution 메커니즘 설계
• Agent의 상태 초기화 및 Prompt 제어를 통한 Taste Drift 억제 전략 수립
• 특정 컨텍스트 내 잘못된 선호도를 교정하기 위한 Taste Control Surface 구축
• 경험 기반 학습 아키텍처에서 발생하는 비가시적 의사결정 가중치 가시화 방안 모색