Open-source Proxy 기반의 LLM Provider 추상화 구현

The Free Claude Code - Run Claude Code with Any Model

Jervi2026년 6월 15일1분intermediate

AI 요약

Context

Claude Code의 에이전트 프레임워크 및 툴링 생태계는 강력하나 Anthropic API에 종속된 폐쇄적 구조를 가짐. 이로 인해 모델 선택의 자율성 부족과 API 비용 증가라는 제약 사항이 발생함.

Claude Code와 API Provider 사이의 요청을 가로채는 Proxy 계층 설계
Anthropic 전용 API 호출을 OpenRouter, DeepSeek, Ollama 등 타 Provider 규격으로 변환하는 인터페이스 구현
Claude Code의 Agent framework, Tool use, Memory 기능을 보존하며 추론 엔진만 교체하는 모듈형 구조 채택
Local LLM(LM Studio, llama.cpp) 연동을 통한 완전 오프라인 추론 환경 지원
단일 인터페이스를 유지하며 다수의 Coding Model을 실험할 수 있는 모델 추상화 레이어 구축

실천 포인트

1. 특정 벤더 API 종속성 해결을 위한 Proxy 패턴 도입 검토

2. 인터페이스(Framework)와 엔진(Model)의 완전 분리를 통한 유연한 아키텍처 설계

3. 로컬 추론 엔진 연동을 통한 데이터 보안 강화 및 비용 최적화 가능성 확인

태그