피드로 돌아가기
Dev.toAI/ML
원문 읽기
Vendor Lock-in 해소를 위한 Multi-LLM Orchestration 전환 설계
Anthropic Broke My OpenClaw Stack. GPT 5.4 Put It Back Together
AI 요약
Context
Anthropic의 Third-party Harness 지원 중단 및 Abuse Classifier 기반의 트래픽 차단으로 인한 OpenClaw 스택 마비 상황 발생. 단일 벤더 의존적 구조에서 API 정책 변경 및 분류기 작동으로 인한 시스템 가용성 상실 확인.
Technical Solution
- GPT 5.4를 Main Orchestrator로 설정하여 Planning 및 Coding의 제어권 확보
- Gemini 3 Pro를 Long-context 및 Research 전용 Lane으로 분리하여 워크로드 최적화
- Claude Opus를 First-party 경로를 통한 Architecture Review 전용 모델로 제한적 배치
- Vendor-neutral한 Local-first Retrieval Layer 도입을 통한 인프라 독립성 강화
- Bootstrap Injection 수정 및 Routing Rule 강화를 통한 Agent의 Hallucination 억제
- Memory 및 Embedding을 단순 부가 기능이 아닌 핵심 Infrastructure로 격상하여 설계
실천 포인트
1. 특정 LLM의 API 정책 변경에 대비한 Multi-model Fallback 전략 수립 여부 검토
2. 벤더의 Classifier에 의한 차단을 방지하기 위한 Prompt Envelope의 추상화 계층 설계
3. RAG 및 Embedding 레이어의 Local-first 구현을 통한 데이터 주권 및 가용성 확보
4. 모델별 강점(Context Window, Reasoning)에 따른 기능별 라우팅 아키텍처 적용