피드로 돌아가기
Dev.toBackend
원문 읽기
Deterministic Audit Engine 기반의 AI 비용 최적화 시스템 설계
SpendWise - AI Spend Audit Tool
AI 요약
Context
다양한 AI 도구의 비용 분석을 위해 단순 계산기 형태의 1차 구조를 구축했으나, 벤더사의 가격 변동 시 기존 분석 데이터가 즉시 무효화되는 데이터 휘발성 문제 발생.
Technical Solution
- Deterministic Result 보장을 위해 핵심 분석 로직에서 AI를 배제하고 6개의 Hardcoded Rule 기반 엔진 설계
- 분석 시점의 가격 데이터를 Database에 Snapshot으로 저장하여 과거와 현재의 비용 상태 비교 기반 마련
- Pricing 데이터 주입이 가능하도록 Audit Engine을 Refactor 하여 하드코딩된 상수를 외부 파라미터로 변경
- /api/detect-changes 엔드포인트를 통한 가격 변동 감지 및 영향 받는 모든 Audit 데이터의 재계산 파이프라인 구축
- 분석 결과의 차이를 가시화하는 Re-audit Diff View 구현으로 변경된 절감액(Savings Delta) 산출
- Groq의 Llama 3를 활용하여 구조화된 분석 결과에 대해서만 자연어 요약 층을 분리 설계
실천 포인트
1. 비즈니스 로직과 외부 데이터(가격 등)의 결합도를 낮추기 위해 의존성 주입(Dependency Injection) 구조를 검토할 것
2. 외부 API나 벤더 데이터에 의존하는 시스템은 변경 이력 추적을 위해 Snapshot 저장 전략을 도입할 것
3. AI 도입 시 '결정론적 결과'가 필요한 구간과 '생성적 요약'이 필요한 구간을 엄격히 분리하여 설계할 것