피드로 돌아가기
InfoQInfoQ
AI/ML

3.2M Peak QPS 규모의 엔지니어링 효율을 위한 AI Execution Model 도입

Presentation: Platform Teams Enabling AI - MCP/Multi-Agentic Tools Across Linkedin

Karthik Ramgopal, Prince Valluri2026년 6월 5일32advanced

Context

7,000개의 Deployables와 연간 100만 건의 PR이 발생하는 초거대 규모 환경에서 기존 CLI, Self-serve UI, Wiki 기반 자동화의 한계 직면. 단순 스크립트 기반 자동화는 인간의 인지 과정(Cognition Loop)을 대체하지 못해 반복적인 수동 작업과 높은 코디네이션 비용 발생.

Technical Solution

  • Intent-based Execution Model 설계를 통한 '의도 표현 → 계획 수립 → 실행 → 검증' 프로세스의 구조화
  • 반복 가능하고 검증이 용이한 Migration, Testing, Incident Response 영역에 Agentic AI 우선 배치
  • MCP(Model Context Protocol)를 통한 GitHub Copilot 확장으로 기존 에코시스템과의 상호운용성 확보
  • Orchestration, Context Engineering, Tool Calling을 위한 플랫폼 추상화 계층 구축으로 중복 구현 방지
  • Human-in-the-loop 설계를 통한 최종 의사결정 권한 유지 및 AI Hallucination 리스크 제어
  • Open Standard 및 기존 RPC, Queuing 시스템 재사용을 통한 빠른 기술 변경 대응력 확보

- 반복 가능하고 결과 검증이 명확한 작업부터 Agent 도입 대상 선정 - Tool-calling 및 Context 관리를 위한 공통 플랫폼 추상화 계층 설계 - 독자 개발보다 MCP 등 오픈 프로토콜을 통한 기존 도구 확장 전략 검토 - AI의 자율성보다 인간의 검증(Validation)과 책임(Accountability) 프로세스 우선 설계

원문 읽기