피드로 돌아가기
Hugging Face BlogAI/ML
원문 읽기
Qwen2.5-3B 모델 기반 Multi-agent 경제 시뮬레이션 구현 및 JSON 정밀 제어
Thousand Token Wood: shipping a multi-agent economy on a 3B model
AI 요약
Context
실시간 Multi-agent 시뮬레이션을 위해 고비용·저속의 Frontier Model 대신 3B 규모의 소형 모델 채택. 초기 설계 시 생산 과잉으로 인한 거래 소멸 및 소형 모델의 낮은 추론 능력으로 인한 비논리적 경제 의사결정 문제 발생.
Technical Solution
- vLLM 및 Modal 기반 배포를 통한 Batch GPU Call 구조 설계로 실시간성 확보
- Diet variety, Spoilage, Winter fuel crisis 등 인위적 Scarcity 설계를 통한 거래 동인 생성
- Prompt Engineering 및 예시 제공을 통해 소형 모델의 부적절한 구매 결정 문제를 해결하고 역할 기반 거래 유도
- Parse-and-repair 레이어 구축을 통해 Malformed response 발생 시 No-op 처리로 시스템 안정성 유지
- 시장의 잔여 공급 및 수요에 따라 Reference price가 변동하는 Drift 메커니즘을 통한 동적 가격 형성 구현
- 상태 관리 방식을 Accumulator에서 Mean-reverting mood로 변경하여 에이전트의 조기 탈락 방지 및 지속 가능성 확보
실천 포인트
- 소형 모델 도입 시 추론 능력의 부족함을 보완할 외부 상태 제약 조건 설계 여부 검토 - LLM 출력값의 안정성을 위해 단순 파싱이 아닌 Repair 레이어 포함 여부 확인 - 에이전트 간 상호작용 설계 시 단순 보상 체계보다 결핍과 필요 기반의 동인 설계 적용 - 정적 Reference 값 제공 대신 시장 상태에 따라 변동하는 Dynamic Reference 메커니즘 고려