피드로 돌아가기
GeekNewsAI/ML
원문 읽기
Show GN: opencodex — Codex에서 아무 LLM이나 쓸 수 있는 로컬 프록시
5종 Protocol Adapter 기반의 Codex 전용 LLM Local Proxy 구현
AI 요약
Context
Codex가 자체 Responses API(/v1/responses) 프로토콜만 지원함에 따라 OpenAI 이외의 모델 사용이 불가능한 폐쇄적 구조임. 특정 LLM 프로바이더의 기능에 의존하지 않는 모델 유연성 확보가 필수적인 상황임.
Technical Solution
- Codex와 LLM Provider 사이에서 실시간 프로토콜 변환을 수행하는 Local Proxy 아키텍처 설계
- Anthropic, Google, Azure 등 5종의 Protocol Adapter를 통해 40개 이상의 Provider 호환성 확보
- 모델별로 상이한 Reasoning Effort 파라미터를 통일하기 위한 전용 변환 테이블 구축
- SQLite 직접 조작을 통한 model_provider 태그 마이그레이션으로 기존 Session History 연속성 보장
- gpt-5.4-mini Sidecar 라우팅을 통해 타 모델에서도 Web Search 및 Image Understanding 기능 구현
- 원본 설정 및 세션 데이터를 보존하는 복원 메커니즘을 통한 무결성 유지
실천 포인트
- 이기종 API 통합 시 파라미터 명칭 불일치를 해결하기 위한 Mapping Table 도입 검토 - 레거시 데이터베이스의 직접 수정을 통한 데이터 마이그레이션 시 파일 mtime 보존 전략 적용 - 특정 기능 결여 모델을 위한 기능적 Sidecar 패턴의 유효성 확인