Ranking Engineer Agent (REA): The Autonomous AI Agent Accelerating Meta’s Ads Ranking Innovation

Context

Meta의 광고 순위 모델 최적화는 가설 수립, 실험 설계, 학습 실행, 오류 디버깅, 결과 분석, 반복 등 순차적 단계를 거치며 각 사이클이 수 일에서 수 주일 소요된다. 모델이 성숙해지면서 의미 있는 개선을 찾기는 점점 어려워졌고, 수동의 순차적 ML 실험 프로세스가 혁신의 병목이 되었다.

Technical Solution

• Hibernate-and-Wake 메커니즘 도입: 학습 작업 실행 후 에이전트가 상태를 유지한 채 절전하고 작업 완료 시 자동 재개되어 수 일~수 주일의 멀티스텝 워크플로우를 연속 운영
• Dual-Source 가설 생성 엔진 구축: 과거 실험 데이터베이스와 ML 연구 에이전트를 결합해 역사적 패턴과 최신 연구 기반의 다양하고 고품질 가설 생성
• Three-Phase 계획 프레임워크(검증 → 조합 → 활용) 구현: 엔지니어가 사전 승인한 컴퓨팅 예산 범위 내에서 자동 실행
• Confucius 내부 AI 에이전트 프레임워크 기반 구축: 강력한 코드 생성 능력과 유연한 SDK로 Meta의 작업 스케줄러, 실험 추적 인프라, 코드베이스 네비게이션 도구와 통합
• 실시간 오류 처리 및 복구: 인프라 장애, 예상치 못한 오류, 컴퓨팅 예산 초과 시 사전 정의된 범위 내에서 적응하며 일상적 장애는 인간에게 상향 보고하지 않음

Impact

• 평균 모델 정확도 2배 향상: 6개 모델에서 REA 기반 반복으로 기준선 대비 정확도 2배 달성
• 엔지니어 생산성 5배 증대: 3명의 엔지니어가 8개 모델 개선안 제출 완료, 역사적으로는 모델당 2명의 엔지니어 필요
• 초기 도입자 제안 증대: REA 사용 팀이 동일 기간 내 모델 개선 제안을 1개에서 5개로 증가

Key Takeaway

장기 실행 ML 워크플로우를 자동화하는 에이전트 설계 시 세션 기반 단기 어시스턴트와 달리 상태 지속성과 비동기 작업 관리 능력(Hibernate-and-Wake)을 핵심 구현 요소로 삼고, 다양한 정보원(과거 데이터 + 최신 연구)을 통합해 높은 품질의 하이퍼파라미터/가설을 자동 생성하는 구조가 장기 반복 사이클에서의 지수적 생산성 향상을 가능하게 한다.