스택 최적화를 통한 Raw API 기반 AI Agent 제어권 확보 및 비용 최적화

Context

AI Agent 구축 시 도구 선택에 따른 개발 속도와 제어권 사이의 Trade-off 발생. 기존 프레임워크의 과도한 의존성은 런타임 오버헤드와 라이브러리 업데이트에 따른 Breaking Changes 리스크를 초래함.

Technical Solution

• Deno Edge Function 기반 Raw API 통신 구조를 채택하여 Python 의존성 제거 및 런타임 경량화 달성
• Supabase Auth 및 RLS(Row Level Security)와 API 계층을 직접 연결한 보안 아키텍처 설계
• Task Type에 따른 Model Switching 로직을 구현하여 Haiku/Sonnet/Opus 모델을 동적으로 할당하는 비용 최적화 전략 적용
• Tool Use(Function Calling) 패턴의 직접 구현을 통한 LLM 응답 기반 디스패치 제어권 확보
• 외부 프레임워크의 추상화 계층을 제거하여 SDK 직접 호출을 통한 API 응답 지연 시간 최소화

Impact

• Task 성격에 따른 모델 분기 적용으로 Haiku($0.00025/1K)부터 Opus($0.015/1K)까지 비용 효율적 운영
• 경마 예측 시스템의 표준 분석 비용을 예측당 $0.00045 수준으로 유지

Key Takeaway

프레임워크의 편의성보다 기존 인프라 스택(Runtime, DB, Auth)과의 정렬(Alignment)을 우선시하는 설계가 운영 복잡도를 낮추고 제어권을 극대화함.