피드로 돌아가기
Dev.toInfrastructure
원문 읽기
OTel 및 CEL 기반 MCP Gateway Tool Trace 가시성 확보
Configuring Tool Traces In Your MCP Gateway
AI 요약
Context
LLM 에이전트와 MCP Server 간의 도구 호출 과정이 블랙박스 형태로 작동하여 추적 불가한 문제 발생. 호출 경로, 세션 ID, 사용 도구 등 런타임 메트릭의 부재로 인한 오딧팅 및 디버깅의 어려움 존재.
Technical Solution
- Agentgateway를 통한 MCP 전용 Gateway 계층 구축으로 모든 도구 호출 트래픽의 중앙 집중화
agentgateway_mcp_requests_total메트릭을 통한 Method, Server, Session ID 등 핵심 메타데이터 노출- OTel Collector와 CEL(Common Expression Language) 표현식을 결합하여 MCP 특화 데이터(Tool Name, Target)를 정밀하게 추출 및 Enrich
- k8s Gateway API 기반의 HTTPRoute 설계를 통한 MCP Server 라우팅 및 인증 Secret 관리 최적화
- Tempo 및 Grafana를 연동하여 Span 단위의 End-to-End 분산 트레이싱 환경 구현
실천 포인트
- MCP Server 도입 시 블랙박스 문제를 해결하기 위해 Gateway 레벨의 Observability 계층 설계 검토 - 일반적인 Trace 외에 도구 이름, 세션 ID 등 도메인 특화 메타데이터를 추출하기 위한 CEL 표현식 적용 - k8s 환경에서 Gateway API를 사용하여 MCP 백엔드 라우팅과 인증 로직을 분리하여 관리