피드로 돌아가기
Dev.toDevOps
원문 읽기
OpenRouter 기반 AI 봇 도입으로 주당 10시간의 리뷰 공수 절감
How I Built an AI-Powered Code Review Bot That Saves 10 Hours/Week—Here's the Cheapest Way to Deploy It
AI 요약
Context
마이크로서비스 환경에서 일일 15~20건의 PR 발생으로 인한 수동 리뷰 부하 가중. 단순 반복적인 보안 및 컨벤션 체크에 시니어 엔지니어의 리소스가 과다 투입되는 병목 현상 발생.
Technical Solution
- GitHub Webhook과 FastAPI를 활용한 Event Driven 트리거 구조 설계
- 전체 코드가 아닌 Git Diff 기반의 변경 사항만 추출하여 Token 사용량 최적화
- OpenRouter API를 통한 Claude 3 Haiku 모델 채택으로 비용 절감 및 응답 속도 확보
- Prompt Engineering을 통한 JSON 포맷 강제 및 Severity 기반의 구조화된 피드백 생성
- 불필요한 파일(.md, .lock 등)을 제외하는 필터링 로직으로 분석 효율 증대
- 분석 결과를 GitHub Comment와 Slack 알림으로 연동한 실시간 피드백 루프 구축
Impact
- 주당 10시간의 엔지니어링 리소스 확보
- 전체 이슈의 80%를 인간 리뷰 전 사전 탐지
- 월 운영 비용 약 $13 수준의 저비용 고효율 달성
Key Takeaway
단순한 LLM 도입보다 분석 대상의 최소화(Diff extraction)와 API 프록시(OpenRouter) 활용을 통한 비용 최적화가 실무 적용의 핵심임.
실천 포인트
1. 전체 코드 대신 변경된 Diff만 추출하여 Token 비용을 최적화했는가
2. 모델 종속성을 줄이기 위해 OpenRouter와 같은 API Gateway를 검토했는가
3. LLM의 비정형 응답을 제어하기 위해 JSON Schema를 강제하는 프롬프트를 설계했는가
4. 분석 대상에서 제외할 정적 파일 패턴(Skip patterns)을 정의했는가