Lynkr 게이트웨이 도입을 통한 Browser-use 토큰 50% 절감 및 비용 최적화

Context

기존 LLM 기반 Browser Agent는 웹 페이지 상태 분석과 반복적인 Tool 호출로 인해 막대한 토큰 소비와 고비용 구조를 가짐. 특정 LLM 제공자에 종속된 Hard-wiring 구조는 모델 변경 및 비용 최적화를 위한 유연한 라우팅 구현에 한계가 있음.

Technical Solution

• browser-use를 Execution Layer로 활용하여 LLM Agent의 실제 브라우저 제어 및 워크플로우 자동화 구현
• LLM Gateway인 Lynkr를 모델 레이어 하단에 배치하여 Provider-agnostic한 단일 엔드포인트 구축
• Tiered Routing 설계를 통해 단순 탐색 작업은 저비용 모델로, 복잡한 추론 작업은 고성능 모델로 자동 분기
• Semantic Cache 도입을 통한 반복적인 Agent Loop 내 중복 요청 제거 및 응답 속도 개선
• 대규모 JSON 및 Tool Output에 대한 압축 로직을 적용하여 컨텍스트 윈도우 효율성 극대화
• OpenAI 호환 인터페이스를 통한 클라이언트 코드 수정 없는 LLM 백엔드 교체 구조 설계