AWS Lambda와 Durable Functions을 조합해 다중 에이전트 시스템을 단일 프로세스에서 분산 아키텍처로 전환하여 장애 격리, 독립 스케일링, 체크포인팅 기반 재개 기능 확보

Context

기존 다중 에이전트 구매 조정 시스템은 단일 프로세스에서 실행되어 프로세스 충돌 시 전체 작업을 재시작해야 했고, 장애 격리가 불가능했으며, 각 전문가 에이전트를 독립적으로 스케일할 수 없었다. 인프라 레벨의 내구성과 병렬 처리 지원이 필요했다.

Technical Solution

• Strands Agents SDK와 Durable Execution SDK를 역할별로 분리: Strands는 AI 추론(계획 에이전트, 합성 에이전트) 담당, Durable SDK는 인프라(체크포인팅, 병렬 디스패치, 중단/재개) 담당
• 전문가 에이전트를 tool() 콜백(in-process)에서 context.invoke()를 통한 개별 Lambda 함수로 변환하여 각 전문가가 독립적으로 스케일 가능하도록 구조화
• 조정자 함수(Coordinator)의 실행 흐름을 context.step('plan') → context.parallel('specialists') → context.step('synthesize') → context.waitForCallback() 구조로 설계하여 각 단계마다 자동 체크포인팅 적용
• 병렬 실행으로 전환: 순차 실행(이전 방식)에서 context.parallel()로 5개 전문가를 동시 호출하되, 개별 전문가 실패는 다른 결과를 보존
• RISEN 프롬프트 구조(Role, Instructions, Steps, Expectation, Narrowing) 유지하되, 조정자 프롬프트만 2단계(계획/합성)로 분리하여 체크포인트 전에 라우팅 로직 확정
• 사람 승인 워크플로우에 waitForCallback() 적용: 승인 대기 중 컴퓨트 비용 발생 안 함

Key Takeaway

다중 에이전트 시스템을 분산 환경으로 배포할 때는 AI 추론 로직과 내구성 인프라를 명확히 분리하고, 라우팅 로직을 코드 대신 프롬프트에 인코딩하되, Durable Functions의 체크포인트-재개 패턴을 활용하면 부분 실패 후 정확한 지점에서 재개할 수 있다.