Prompt 제어를 넘어선 구조적 Harness 설계를 통한 AI IAM 거버넌스 구현

Context

CI/CD 파이프라인 내 AI 에이전트 도입으로 인한 IAM 권한 오남용 및 Privilege Escalation 위험 증가. System Prompt 기반의 가이드라인은 Prompt Injection과 Hallucination에 취약하며, 대규모 환경에서 인간의 PR 리뷰만으로는 병목 현상 및 Rubber-stamping 문제 발생.

Technical Solution

• Harness Engineering 개념 도입을 통한 모델 의존성 제거 및 외부 구조적 제어 환경 구축
• Phase(Explore, Decide, Commit) 분리를 통해 에이전트의 행위 가능 시점을 강제하는 상태 머신 설계
• Tool Effect 분류(READ, REVERSIBLE, IRREVERSIBLE)를 적용하여 위험도에 따른 도구 접근 권한 제어
• Budget Gate 설정을 통해 롤당 분기별 Mutation 횟수를 제한하여 Silent Drift 누적 방지
• Compensation Transaction 구조를 설계하여 Canary 실패 시 자동 롤백을 보장하는 원자성 확보
• Tool Registry에서 IRREVERSIBLE 도구를 원천 제거하여 Jailbreak 시도에도 물리적 실행 불가능한 구조 설계