Tool-call Side-effect 제어를 위한 지능형 Policy Layer 설계

Stopping the LLM from calling the same tool twice (and other things it shouldn't)

Abdullah Shahin2026년 5월 28일10분intermediate

AI 요약

Context

LLM Agent가 불완전한 Tool List 환경에서 동일한 Tool을 반복 호출하여 리소스 낭비와 데이터 중복을 초래하는 문제 발생. 단순 Audit Log 기반의 사후 분석으로는 실시간 side-effect 제어가 불가능한 아키텍처적 한계 확인.

Tool-call 실행 전 단계에 가드레일 역할을 수행하는 Policy Layer 배치
Byte-identical Arguments를 감지하기 위해 (tool_name, canonicalized_args) 기반의 Hash Set 활용
데이터 타입 및 포맷 정규화를 통한 Semantically-equal Arguments 식별 및 중복 호출 차단
Idempotency-Key를 모델이 아닌 Policy Layer에서 생성 및 부여하여 Downstream 시스템의 중복 처리 방지
Tool별 변이 리소스를 정의하는 Side-effect Graph를 구축하여 서로 다른 Tool 간의 동일 리소스 중복 수정 방지

실천 포인트

1. Tool-call 실행 전 단계에 Hash 기반의 중복 검증 로직이 포함된 Gate-keeper Layer를 구축했는가?

2. 금전적 손실이나 데이터 오염을 유발하는 Tool에 대해 인자 정규화(Canonicalization) 규칙을 정의했는가?

3. Idempotency-Key 생성 권한을 LLM이 아닌 Deterministic한 인프라 레이어에서 관리하고 있는가?

4. 서로 다른 Tool이 동일한 리소스를 수정할 가능성이 있는 경우 Side-effect Graph를 통해 의존성을 관리하는가?

태그