피드로 돌아가기
GitHub BlogInfrastructure
원문 읽기
Usage-based Billing 도입 및 Flex Allotment 기반의 가변적 자원 할당 체계 구축
GitHub Copilot individual plans: Introducing flex allotments in Pro and Pro+, and a new Max plan
AI 요약
Context
AI Agent의 장기 실행 및 멀티스텝 작업 증가로 인한 기존 고정 할당량의 한계 발생. 모델 성능 향상과 추론 비용의 가변성으로 인해 기존 구독 모델의 지속 가능성 저하.
Technical Solution
- Base Credits와 Flex Allotment를 분리한 2단계 자원 할당 아키텍처 설계
- 구독료와 1:1 매칭되는 Base Credits를 통한 최소 서비스 수준 보장
- AI 모델 비용 및 효율성 변화를 실시간으로 반영하는 가변적 Flex Allotment 메커니즘 도입
- IDE, Web, CLI 전 영역에 걸쳐 동일한 Rate를 적용하는 통합 크레딧 소모 로직 구현
- 무제한 제공되는 Code Completion 영역과 크레딧 소모 영역(Chat, Agent)의 트래픽 분리 처리
- 임계치 도달 시 추가 사용량 구매가 가능한 On-demand 확장 구조 채택
실천 포인트
1. 서비스 비용 변동성이 큰 경우 고정 할당량과 가변 할당량을 분리하여 설계했는지 검토
2. 다양한 진입점(IDE, CLI, Web)에서 일관된 자원 소모 상태를 유지하는 통합 대시보드 구현 여부 확인
3. 핵심 기능(Completion)과 부가 기능(Agent)의 비용 모델을 분리하여 사용자 경험과 수익성을 동시에 확보했는지 분석