피드로 돌아가기
HMAC-attested receipts for AI agent tool calls — verify-action-mcp
Dev.toDev.to
Security

HMAC 기반 증명서로 AI Agent의 Tool Call 실행 결과 무결성 검증

HMAC-attested receipts for AI agent tool calls — verify-action-mcp

ardev2026년 5월 8일5intermediate

Context

AI Agent가 도구 실행 후 성공했다고 보고하지만 실제 데이터 변경이 없거나 엉뚱한 대상에 영향을 주는 'Silent Success' 문제 발생. 모델의 단순 답변 여부만 측정하는 기존 벤치마크로는 실행 결과의 실제 정합성을 보장하기 어려운 구조적 한계 존재.

Technical Solution

  • Claim과 Evidence 쌍을 입력받아 실제 수행 결과와 일치 여부를 판단하는 독립적 HTTP 검증 서비스 설계
  • HMAC-SHA256을 활용하여 검증 결과에 대한 위변조 방지 및 추적 가능한 Content-addressed Receipt 발행
  • DB Op, Code Diff, File Op, API Call 등 도구 성격에 따른 4가지 특화 Verifier를 통해 Critical Signal 기반의 Mismatch 판별 로직 구현
  • MCP(Model Context Protocol) 표준 준수를 통해 Claude Code, Cursor 등 다양한 AI Agent 런타임에서 도구로 즉시 호출 가능한 인터페이스 제공
  • SHA-256 솔팅 및 PII Guard를 통한 개인정보 보호 체계와 30일 로그 보존 정책 적용
  • Symmetric Key 기반 v0 모델에서 Ed25519 기반 Multi-issuer v1 모델로의 확장 경로 설계

- AI Agent 도입 시 '성공 메시지'가 아닌 실제 시스템 상태 변화(Row Count, Diff)를 기반으로 한 Post-action Verification 단계 검토 - 검증 결과의 무결성을 위해 HMAC 또는 디지털 서명이 포함된 영수증(Receipt) 기반의 감사 로그 설계 적용 - LLM-as-judge의 불확실성을 제거하기 위해 핵심 지표(Critical Signal) 중심의 Rule-based 검증 로직 우선 도입

원문 읽기