fakecloud 도입을 통한 Bedrock Guardrails 테스트 비용 제로화 및 30ms 응답 속도 달성

Context

Bedrock Guardrails의 정책 튜닝 과정에서 발생하는 반복적인 API 호출 비용과 테스트 지연 시간이 개발 병목으로 작용. 실제 AWS 환경의 높은 Token 비용과 인증 절차로 인해 CI 단계에서의 빈번한 검증이 어려운 구조적 한계 존재.

Technical Solution

• AWS Bedrock API와 호환되는 Local Mock 서버인 fakecloud를 통한 가상 데이터 평면(Data Plane) 구축
• Regex 및 Context 기반 매칭을 통한 PII(Email, Phone, SSN 등) 탐지 로직의 Local 구현
• Keyword 및 Pattern Matching 기반의 Content Filter를 설계하여 AWS의 HIGH/LOW 강도별 차등 동작을 모사
• Topic 정의와 예시 문장을 활용한 Pattern Matching 방식으로 Topic Filter의 결정론적 동작 보장
• Bedrock Runtime API의 endpoint_url 변경만으로 기존 boto3 코드를 수정 없이 그대로 활용하는 Interface 추상화
• Guardrail Config를 코드(Terraform/CDK)로 관리하여 Local 테스트 후 Production에 배포하는 CI/CD 파이프라인 구성