Agents in 60 lines of python : Part 7

Context

AI 에이전트는 현재 사용자의 모든 요청을 필터링 없이 실행할 수 있으며, 데이터베이스 삭제, 비밀번호 유출, 금지된 도구 호출 등 유해한 작업을 방지할 메커니즘이 없다.

Technical Solution

• 입력 게이트 구현: 사용자 요청이 LLM에 도달하기 전에 lambda 함수 리스트의 규칙과 비교하여 검증 (예: "delete", "drop" 키워드 탐지)
• 출력 게이트 구현: 에이전트 응답이 사용자에게 노출되기 전에 lambda 함수 리스트의 규칙으로 스캔 (예: "password", API 키, 내부 데이터 탐지)
• 규칙 기반 아키텍처: 각 게이트는 True(안전) 또는 False(위반) 반환하는 lambda 함수 리스트로 구성
• 새로운 규칙 추가: 한 줄의 lambda 함수 추가로 SQL 주입 패턴, 이메일 주소, 욕설 등 필터링 확장 가능
• 프로덕션 패턴 준용: Guardrails AI, NVIDIA NeMo Guardrails, OpenAI Moderation API와 동일한 "게이트 전/후, 규칙 리스트" 패턴 적용

Key Takeaway

AI 에이전트 보안은 복잡한 구조 없이 요청 전과 응답 후 두 개의 검증 게이트로 구현 가능하며, 이는 프로덕션 가드레일 시스템의 기본 설계 원칙과 동일하다.