LLM의 확률적 라우팅 한계를 극복하는 결정론적 워크플로우 설계

Context

Claude Sub-agents는 LLM이 다음 단계를 결정하는 추론 기반 라우팅 구조. 파이프라인 실행 과정에서 단계 누락이나 잘못된 에이전트 선택 같은 비결정론적 문제 발생. 반복 가능한 신뢰성 있는 파이프라인 구축에 구조적 한계 존재.

Technical Solution

• 오케스트레이션과 실행 로직을 분리하여 제어 흐름의 결정성 확보
• YAML 기반의 선언적 DSL(Domain Specific Language)을 도입하여 실행 순서와 조건 명시
• LLM의 역할은 각 단계 내부의 창의적 작업(추론, 생성, 분석)으로 제한하는 설계
• 리트라이 정책, 루프 횟수, 이벤트 트리거 등 인프라 제어 로직을 설정 파일로 관리
• 단순 LLM 호출을 넘어 쉘 명령, HTTP API, 하위 워크플로우를 통합 실행하는 런타임 구조
• 실제 테스트 통과 여부와 같은 엄격한 품질 게이트(Quality Gate)를 통한 단계 전환 제어

Key Takeaway

창의성이 필요한 실행 영역은 LLM에 맡기되 순서와 흐름 같은 오케스트레이션 영역은 결정론적인 설정 파일로 관리하여 시스템 신뢰성을 확보하는 분리 전략.