프레임워크 의존성을 제거한 7가지 빌딩 블록 기반의 Deterministic AI Agent 설계

Context

기존 AI 에이전트 구축 시 LangChain 등 무거운 프레임워크 도입으로 인해 도구 학습 비용이 증가하고 시스템 복잡도가 상승하는 문제 발생. 특히 Human-in-the-Loop 없는 Background Automation 환경에서 LLM의 비결정론적 특성으로 인한 오류 누적과 비용 효율성 저하가 임계점으로 작용함.

Technical Solution

• Intelligence Layer의 최소화: 추상화 계층을 제거하고 Anthropic SDK를 직접 호출하여 유지보수 비용을 낮춘 구조 설계
• Memory의 명시적 관리: Stateless한 LLM 특성을 보완하기 위해 DB 기반의 Session ID 및 Timestamp 관리와 Token Count 트래킹을 통한 Context Window 최적화 구현
• Hybrid Control Flow: LLM은 Classification에만 한정적으로 사용하고 실제 Routing 및 Execution은 Deterministic한 코드로 처리하여 실행 예측 가능성 확보
• Validation 및 Recovery 전략: Schema Enforcement를 통한 정형 데이터 추출과 Exponential Backoff 기반의 Retry 로직으로 시스템 안정성 강화
• Tool Call 최적화: 모든 Tool Call이 최소 2회의 LLM Round-trip을 유발함을 고려하여 Deterministic Pre-fetching 우선 적용 후 필수 상황에만 Tool 활성화
• Human Oversight 계층 설계: 고위험 작업에 대해 Approval Checkpoint를 배치하여 자동화 규모와 책임 소재를 분리한 아키텍처 구성