피드로 돌아가기
InfoQAI/ML
원문 읽기
3.2M Peak QPS 규모의 엔지니어링 효율을 위한 AI Execution Model 도입
Presentation: Platform Teams Enabling AI - MCP/Multi-Agentic Tools Across Linkedin
AI 요약
Context
7,000개의 Deployables와 연간 100만 건의 PR이 발생하는 초거대 규모 환경에서 기존 CLI, Self-serve UI, Wiki 기반 자동화의 한계 직면. 단순 스크립트 기반 자동화는 인간의 인지 과정(Cognition Loop)을 대체하지 못해 반복적인 수동 작업과 높은 코디네이션 비용 발생.
Technical Solution
- Intent-based Execution Model 설계를 통한 '의도 표현 → 계획 수립 → 실행 → 검증' 프로세스의 구조화
- 반복 가능하고 검증이 용이한 Migration, Testing, Incident Response 영역에 Agentic AI 우선 배치
- MCP(Model Context Protocol)를 통한 GitHub Copilot 확장으로 기존 에코시스템과의 상호운용성 확보
- Orchestration, Context Engineering, Tool Calling을 위한 플랫폼 추상화 계층 구축으로 중복 구현 방지
- Human-in-the-loop 설계를 통한 최종 의사결정 권한 유지 및 AI Hallucination 리스크 제어
- Open Standard 및 기존 RPC, Queuing 시스템 재사용을 통한 빠른 기술 변경 대응력 확보
실천 포인트
- 반복 가능하고 결과 검증이 명확한 작업부터 Agent 도입 대상 선정 - Tool-calling 및 Context 관리를 위한 공통 플랫폼 추상화 계층 설계 - 독자 개발보다 MCP 등 오픈 프로토콜을 통한 기존 도구 확장 전략 검토 - AI의 자율성보다 인간의 검증(Validation)과 책임(Accountability) 프로세스 우선 설계