Attention Dilution 해결을 통한 AI Agent 제약 조건 준수율 최적화

Context

LLM Agent가 세션 진행에 따라 System Prompt의 제약 사항을 망각하는 Context Drift 현상 발생. 특히 Tool Call 횟수가 증가하며 최신 토큰의 가중치가 높아짐에 따라 초기 설정된 규칙의 영향력이 상실되는 구조적 한계 존재.

Technical Solution

• 단순 강조나 Context Window 확장이 아닌 Attention 메커니즘의 Recency 특성을 활용한 설계 변경
• 정적 규칙(Forbidden Rule)을 동적 실행 단계(Required Action)로 전환하여 의사결정 직전의 컨텍스트에 배치
• 파일 수정 전 '범위 확인 및 출력' 단계를 강제하여 Agent가 스스로 제약 조건을 재인식하는 Gate 구조 설계
• 최신 User Turn에 핵심 제약 조건을 재주입하여 Attention 가중치를 최대화하는 Re-injection 전략 적용
• 단순 기억 기반의 준수가 아닌 트랜스크립트에 기록이 남는 검증 프로세스 구축으로 가시성 확보