20B 로컬 LLM과 75종 Toolbelt 결합을 통한 워크플로우 자동화 구현

Context

대규모 파라미터 모델 중심의 AI 도입 방식이 초래한 고비용 및 단순 챗봇 수준의 기능 제한 문제 발생. 모델 크기보다 실행 능력(Actionability)의 부재가 실제 비즈니스 워크플로우 적용의 병목 지점으로 작용.

Technical Solution

• 20B 규모의 Local LLM을 Ollama 기반으로 구동하여 데이터 보안 및 토큰 비용 제거
• Shell, Python 실행 및 Playwright 기반 Browser automation 등 75가지 구체적 Capability를 Toolbelt 형태로 제공
• FAISS와 BM25를 결합한 Hybrid RAG Pipeline 구축으로 코드 컨텍스트 추출 정확도 향상
• ACPX 기반 Multi-agent Orchestration을 통한 외부 도구(Claude Code, Cursor 등) 간의 작업 위임 및 결과 리레이 구조 설계
• Django 프레임워크를 활용한 오케스트레이션 레이어 구현으로 로컬 모델의 도구 호출 안정성 확보