피드로 돌아가기
Dev.toAI/ML
원문 읽기
Fan-out 패턴과 Zod 기반 Typed Output을 통한 회의 분석 파이프라인 최적화
From Transcript to Typed Action Items: Three Parallel Agents in TypeScript
AI 요약
Context
단일 Prompt에 요약, 액션 아이템, 감정 분석을 모두 요청하는 기존 방식의 한계 분석. 서로 다른 데이터 형태(Prose vs Structured)가 충돌하여 출력 품질이 저하되고, 비정형 텍스트 파싱으로 인한 런타임 불안정성 발생.
Technical Solution
- 단일 에이전트를 3개의 독립적인 Specialist 에이전트로 분리한 Fan-out 구조 설계
- 각 작업의 특성에 따라 Temperature를 차등 설정(요약 0.3, 추출 0.1)하여 창의성과 일관성 동시 확보
- Zod Schema를 활용한 outputSchema 정의로 LLM 응답을 정적 타입 객체로 강제하여 파싱 오버헤드 제거
- 감정 분석 시 Evidence 필드를 필수 포함하도록 설계하여 모델의 Hallucination 방지
- 독립적인 3개 에이전트의 결과를 병렬 실행한 후, 최종 Aggregator 에이전트가 하나로 병합하는 구조 채택
실천 포인트
1. 하나의 입력으로 여러 독립적 분석이 필요한 경우 Pipeline 대신 Fan-out 구조 검토
2. 정형 데이터 추출 시 Temperature를 최소화하고 Zod와 같은 Schema Validation 도구 도입
3. 모델의 근거 제시(Evidence) 필드를 추가하여 추출 데이터의 신뢰성 검증
4. 작업 간 의존성이 없는 경우 병렬 호출을 통해 전체 응답 지연 시간(Latency) 단축