LLM 추론과 실행 제어를 분리한 Secure Harness 기반 AI Agent 설계

Context

단순 생산성 도구로서의 AI 사용과 운영 워크플로우에 통합된 AI Agent의 보안 모델 차이 간과로 인한 리스크 존재. 특히 금융권 환경에서 LLM의 자율적 권한 부여 시 발생 가능한 데이터 유출 및 무분별한 인프라 변경 위험이 핵심 병목 지점으로 작용.

Technical Solution

• Model Reasoning과 Agent Action의 논리적 분리를 통한 Secure Harness 아키텍처 설계
• Least Privilege 원칙에 기반하여 Jira, GitHub, AWS 등 각 커넥터별 접근 범위 및 권한을 엄격히 제한하는 Scoped Access 제어
• 고위험 작업 수행 시 Human-in-the-loop 모델을 적용한 Approval Gate 강제 구현
• 모든 Tool Call에 대해 승인된 Tool Policy 매핑 및 실행 이력의 전수 로깅 시스템 구축
• 모델 외부의 별도 보안 저장소를 통한 Credential 관리로 모델의 자격 증명 직접 접근 차단
• 모든 데이터 소스에 대한 Scope 정의 및 결과값 검증 로직을 통한 데이터 오남용 방지