피드로 돌아가기
Dev.toBackend
원문 읽기
HTTP_PROXY 우회 CLI의 트래픽 캡처를 위한 Local Loopback 프록시 설계
Building ccglass: the architecture of a local LLM reverse proxy
AI 요약
Context
대부분의 Coding Agent CLI가 HTTP_PROXY 환경 변수를 무시하고 HTTPS 소켓을 직접 생성하는 제약 존재. 기존 MITM 방식의 CA 인증서 신뢰 문제로 인한 패킷 캡처의 기술적 한계 발생.
Technical Solution
- API Base URL을 127.0.0.1:8123으로 오버라이드하여 TLS 핸드셰이크를 제거한 Plain HTTP 로컬 홉 구성
- Spawn Wrapper를 통한 자식 프로세스 실행 및 환경 변수 강제 주입으로 인터셉트 경로 확보
- Node.js pipeline()과 Transform Stream을 활용하여 SSE 스트리밍 데이터의 버퍼링 없는 실시간 전달 및 로깅 구현
- provider:model 기반의 외부 JSON pricing 설정을 통한 모델별 실시간 비용 산출 로직 분리
- MCP(Model Context Protocol) 서버 구현으로 LLM이 자신의 요청 이력을 스스로 쿼리하는 재귀적 피드백 루프 설계
실천 포인트
- 시스템 레벨의 Proxy 설정이 무시되는 CLI 도구 분석 시 Local Loopback 주소 변조 검토 - SSE 스트리밍 데이터 처리 시 메모리 릭 방지를 위해 Buffer 대신 Transform Stream 사용 - 잦은 변경이 발생하는 가격 정책 등 도메인 데이터는 코드 내 하드코딩 대신 외부 JSON 설정 파일로 관리