피드로 돌아가기
Dev.toAI/ML
원문 읽기
Claude와 n8n 기반의 Low-cost 고효율 WhatsApp AI 어시스턴트 설계
How I Built a Production WhatsApp AI Assistant for Mexican SMBs with Claude and n8n
AI 요약
Context
멕시코 SMB 시장의 특성상 WhatsApp 응답 속도가 고객 전환율에 직결되는 상황. 기존 BSP 기반 챗봇 플랫폼의 높은 비용과 제어권 부족으로 인해 직접적인 인프라 구축이 요구됨.
Technical Solution
- 비용 절감 및 데이터 소유권 확보를 위한 WhatsApp Cloud API 직접 연동 구조 채택
- Claude Haiku를 지능 레이어로 설정하여 응답 속도 최적화 및 운영 비용 최소화
- meta-blocks 패턴 도입을 통한 구조적 응답 생성 및 파싱 노드를 활용한 내부 액션(예약, 결제 등) 처리 분리
- Vector DB 없이 Postgres 내 Cosine Similarity 연산을 통한 경량 RAG 아키텍처 구현
- Gemini 모델의 인라인 오디오 처리 기능을 활용한 무료 음성 전사(Transcription) 파이프라인 구축
- Binary Buffer 처리를 통한 Vision API의 Base64 인코딩 오류 해결 및 이미지 분석 기능 구현
실천 포인트
- 소규모 데이터셋의 RAG 구현 시 Vector DB 도입 전 Postgres 기반의 유사도 검색 검토 - LLM의 비정형 응답 제어를 위해 특정 식별자를 포함한 구조적 블록(meta-blocks) 설계 적용 - 비용 최적화를 위해 기능별 최적 모델(Claude Haiku for Chat, Gemini for Voice)의 하이브리드 구성 고려 - 외부 미들웨어(BSP) 제거를 통한 API 직접 연동으로 벤더 종속성 제거 및 제어권 확보