Agent Autonomy 제어를 위한 Authority Handoff 설계 및 권한 체계 도입

The agent plan had every step except where to stop

Michael Truong2026년 6월 19일7분intermediate

AI 요약

Context

Agent가 PR 생성, 커밋, 머지 등 Repository Action을 직접 수행하는 Multi-slice Plan 구조에서 구현 명세(Implementation Spec)와 실행 권한(Authority)의 구분 부재로 인한 무분별한 자동 머지 발생.

Technical Solution

Implementation Plan과 Authority Handoff를 분리하여 Agent의 자율성 범위를 명시적으로 정의하는 설계 도입
'Open PR only'와 'Merge granted' 두 단계의 Authority Level을 정의하여 슬라이스별 권한 차등 부여
권한 부여 시 구체적인 Rationale(근거) 작성을 의무화하여 단순 작업과 런타임 영향 작업의 리스크 분리
Branch Protection을 최종 Enforcement Layer로 설정하여 Plan의 누락이나 Agent의 오판을 방지하는 2중 방어 체계 구축
Plan Summary Table을 통해 전체 워크플로우의 권한 상승 지점을 한눈에 파악할 수 있는 가시성 확보
Agent Chat 프롬프트 상단에 Imperative Instruction을 배치하여 상태 비저장(Stateless) 채팅에서도 일관된 권한 유지

실천 포인트

- 모든 Agent Plan 슬라이스에 기본값으로 'Open PR only' 권한 설정 - 'Merge granted' 권한 부여 시 Config-only, Docs-only 등 저위험군 여부와 검증 방법(CI check)을 Rationale에 명시 - Branch Protection 설정을 Specification이 아닌 Enforcement 도구로 활용하여 최종 안전장치 마련 - 프롬프트 최상단에 실행 권한 수준을 배치하여 Agent의 Task Completion Heuristic으로 인한 오작동 방지

태그

#Prompt Engineering #Authority Handoff #Guardrails #Branch Protection #Agentic Workflow

원문 읽기