월 비용 $20 이하의 AWS 서버리스 기반 Multi-tenant RAG 아키텍처 구현

Building a Multi-Tenant AI Document Platform on AWS (Part 1: Architecture)

Josh Blair2026년 5월 21일9분intermediate

AI 요약

Context

단순 API 호출 중심의 AI 데모 수준을 넘어 실제 운영 가능한 Multi-tenant 환경의 RAG 시스템 구축 필요성 제기. 특히 데이터 격리 보장과 비용 효율성 사이의 Trade-off 해결이 핵심 과제로 작용.

Aurora Serverless v2와 pgvector 도입을 통한 운영 데이터 및 Vector 데이터의 통합 관리 및 단일 쿼리 내 Tenant 필터링 구현
SQS 기반 이벤트 드라이븐 방식 대신 Step Functions Express Workflows를 채택하여 파이프라인 가시성 확보 및 선언적 Retry 로직 구현
Amazon Bedrock 활용으로 데이터가 VPC 외부로 유출되지 않는 보안 경계 설정 및 IAM 기반의 인증 체계 구축
Aurora Serverless v2의 Auto-pause 기능을 통한 유휴 시간 비용 최소화 및 수요 기반 자동 스케일링 구조 설계
Step Functions의 Map state를 이용한 텍스트 임베딩 생성 과정의 병렬 처리 최적화
Cognito 및 Row-Level Security(RLS)를 결합한 강력한 테넌트 간 데이터 격리 계층 설계

실천 포인트

1. 운영 데이터와 벡터 데이터의 조인이 빈번한 경우 별도 Vector DB 대신 pgvector 검토

2. 파이프라인의 상태 추적과 디버깅 비용이 중요하다면 SQS보다 Step Functions 활용

3. 트래픽 변동폭이 큰 환경에서는 Cold-start 지연 시간을 감수하더라도 Serverless Auto-pause 적용 고려

4. 외부 API 키 관리 부담을 줄이기 위해 클라우드 네이티브 서비스의 IAM 권한 체계 활용

태그