피드로 돌아가기
GeekNewsAI/ML
원문 읽기
Show GN: axon - 브라우저에서 관리하는 ai 오케스트레이터 알파
Local LLM 기반의 Multi-Agent Hierarchy를 통한 코드 생성 및 검증 오케스트레이션
AI 요약
Context
단일 LLM의 생성 능력 한계를 극복하기 위해 역할 기반의 계층 구조 도입 필요성 대두. Local LLM 환경의 제한된 자원 내에서 안정적인 코드 품질 확보를 위한 구조적 장치 설계.
Technical Solution
- ToT(Tree of Thoughts) 기반의 Architect 모델을 통한 복잡한 요구사항의 작업 단위 분할
- CoT(Chain of Thought) 기반의 Junior 모델을 통한 개별 작업 단위의 코드 구현 제안
- Junior-Senior 간의 Review 루프(CoT to ToT) 구축을 통한 코드 승인 및 반려 프로세스 자동화
- 실제 파일 시스템 반영 전 단계의 Sandbox 환경 구축으로 런타임 안정성 확보
- 언어별 IR(Intermediate Representation) 및 검증기 한계 해결을 위한 언어별 전용 검증기 분리 설계
- Local LLM 구동을 위해 AirLLM 및 Ollama를 활용한 하드웨어 자원 최적화 적용
실천 포인트
1. 복잡한 태스크 수행 시 ToT 기반의 작업 분할과 CoT 기반의 구현을 분리하는 계층 구조 검토
2. LLM 생성물의 무결성 보장을 위해 Review-Approval-Commit으로 이어지는 워크플로우 설계
3. 정적 분석 및 검증 단계에서 언어별 특성을 반영한 개별 Validator 분리 적용