CUGA 도입을 통한 Agent Plumbing 제거 및 소형 모델 기반 고성능 추론 구현

Context

기존 Agent 개발 방식은 Tool 어댑터 작성과 상태 관리 등 단순 Plumbing 작업에 과도한 시간이 소요되는 한계 존재. 특히 장기 태스크 수행 시 중간 결과의 유실로 인한 추론 오류와 프론티어 모델에 대한 높은 의존도가 병목 지점으로 작용.

Technical Solution

• Framework가 아닌 Harness 구조를 채택하여 모델 오케스트레이션 로직을 추상화하고 Tool 리스트와 Prompt 정의에만 집중하는 설계 적용
• CodeAct 방식을 통한 Tool Call과 코드 생성의 혼합 실행 및 Reflection 단계를 통한 자가 교정 루프 구현
• 내부 Variable Tracking 메커니즘을 통해 Long-horizon Planning 시 발생하는 상태 유실 문제를 해결하고 추론 일관성 유지
• 모델 성능에 의존하지 않는 외부 Planning/Reflection 레이어를 구축하여 gpt-oss-120b와 같은 소형 Open-weight 모델로도 높은 성능 구현
• MCP(Model Context Protocol), OpenAPI, LangChain 함수를 단일 인터페이스로 바인딩하여 Tool 교체 유연성 확보
• 환경 변수 설정을 통한 Fast, Balanced, Accurate 모드 제어로 Latency와 Cost의 Trade-off를 코드 수정 없이 동적으로 관리