피드로 돌아가기
Dev.toSecurity
원문 읽기
금융권 수준의 보안을 갖춘 Policy Gateway 기반 AI Agent Harness 설계
Building a Secure AI Agent Harness for a Bank: From Architecture to Working Code
AI 요약
Context
LLM의 자율적 도구 호출로 인한 제어 불능 상태와 보안 위험을 방지해야 하는 금융권의 특수한 제약 사항 존재. 모델의 추론 능력은 활용하되 실행 권한은 철저히 분리된 통제 구조의 필요성 대두.
Technical Solution
- Model과 Authorization의 완전 분리를 통한 Policy Gateway 계층 설계
- UserContext 기반의 identity, group, device posture 검증을 통한 요청 권한 제어
- YAML 기반의 Tool Policy 정의로 도구별 접근 권한 및 승인 필요 여부를 정적 관리
- Narrow-scoped Tooling 설계를 통한 read-only 권한 부여 및 직접적인 인프라 수정 차단
- retrieved content를 명령어가 아닌 증거로 취급하여 System Policy 오버라이드 방지
- 요청부터 결과 도출까지의 전 과정을 기록하는 Audit Trace 시스템 구축을 통한 감사 가능성 확보
실천 포인트
- LLM에게 직접적인 API 호출 권한을 부여하지 말고 별도의 Policy Layer를 구축했는가? - 도구 설계 시 범용 API 대신 특정 목적에 최적화된 Narrow-typed 함수를 정의했는가? - 외부에서 유입된 데이터가 프롬프트 주입(Prompt Injection)을 통해 시스템 설정을 변경할 가능성을 차단했는가? - 모든 Agent의 액션에 대해 '누가, 어떤 정책으로, 무엇을' 수행했는지 기록하는 Trace ID를 부여했는가?