LLM 추론을 결정으로 한정하고 반복 작업은 전용 도구로 자동화하여 토큰 비용 및 지연 시간 최적화

Context

AI Agent가 매 요청마다 동일한 추론 과정을 반복하며 발생하는 Token 낭비와 Latency 증가 문제 발생. 단순 질의 시에도 Web Search, Scraping 등 반복적 도구 호출로 인해 약 20k Token의 Context가 불필요하게 소모되는 비효율적 구조임.

Technical Solution

• LLM Inference를 단순 반복 작업이 아닌 '의사결정' 단계에만 집중 배치하는 아키텍처로 전환
• 반복적 Task를 위한 전용 API 리서치 및 Python 기반 CLI Client 구현을 통한 Capability 확보
• Sub-agent Delegation 구조를 활용하여 코딩 전용 에이전트에게 구현 및 유닛 테스트를 위임하는 워크플로우 설계
• 검증된 스크립트를 Hermes의 Skill Management Flow에 통합하여 영구적인 Skill로 등록
• 'Experiment -> Verify -> Capability' 단계의 검증 프로세스를 통해 모델의 즉흥적 추론을 결정론적 코드 실행으로 대체
• Read-only 권한 부여 및 최소 권한 원칙 적용을 통한 보안 Risk 제어