Groq AI와 Cloudflare 기반 GitHub 이슈 자동 Triage 시스템 구축

BugWhisperer: How I Finally Finished My Abandoned GitHub Issue Analyzer (8 Months Later) with GitHub Copilot

Simran Shaikh2026년 5월 29일8분intermediate

AI 요약

Context

다수의 오픈 이슈로 인한 우선순위 결정 병목과 스프린트 계획 시 발생하는 소모적 논의를 해결하기 위해 설계됨. 초기 단계에서는 인증 부재와 데이터 파싱 실패로 인해 단순 API 호출 수준의 기능적 한계를 보였음.

Groq의 Llama 3.1 모델을 도입하여 Root Cause 분석, 해결책 제안, 복잡도 및 우선순위 산정을 자동화한 Triage 로직 설계
LLM의 Non-deterministic한 출력 문제를 해결하기 위해 Markdown 및 설명을 배제하고 JSON 포맷만 강제하는 System Prompt 패턴 적용
대량의 이슈 데이터를 시각적으로 분류하기 위해 Priority 필드 기반의 4컬럼 Kanban Board React 컴포넌트 구현
분석된 이슈 집합을 기반으로 시간 추정치와 권장 팀 규모를 포함한 2주 단위 Sprint Plan 생성 프롬프트 체인 구성
Cloudflare Workers 기반의 서버리스 아키텍처를 채택하여 인프라 오버헤드 제거 및 빠른 응답 속도 확보
분석 결과의 즉각적인 피드백을 위해 GitHub API를 통한 이슈 내 직접 댓글 게시 기능 구현

실천 포인트

1. LLM 응답의 일관성을 위해 'No markdown, No explanation'과 같이 부정 제약 조건을 명시한 JSON 전용 시스템 프롬프트 검토

2. 무료 API 사용 시 토큰 제한(예: 300 tokens)을 설정하여 응답 지연 시간을 최소화하는 효율적 프롬프트 설계

3. CLI 기반의 단순 스크립트에서 웹 기반 Kanban 형태로 UI/UX를 전환하여 데이터 가독성 및 의사결정 속도 개선

태그