저자가 AI 에이전트 신뢰 인프라 구축 중 신원과 평판이 혼동되고 있음을 발견하고, EigenTrust와 담합 탐지, 감사 추적을 결합한 평판 시스템을 구현했다

Context

현재 AI 에이전트 간 상호작용에서 암호키페어나 OAuth 같은 신원 인증은 에이전트가 누구인지 확인하지만, 신뢰할 수 있는지는 판단하지 못한다. 동일 사업자 산하 에이전트들이 상호 평가 점수를 부풀리거나, 새로운 악의적 에이전트가 이력 없이 등록되는 문제가 단순 평가 시스템의 한계다.

Technical Solution

• EigenTrust 알고리즘으로 검증된 에이전트의 증언에 높은 가중치를 부여하고, 점수 조작을 수학적으로 방지한다
• 담합 집합 분석으로 동일 소유주 간 교차 증언과 순환 신뢰 패턴을 탐지하고 플래그 처리한다
• IPFS에 해시 체인으로 연결된 감사 추적을 적용하여 검증 가능한 불변 기록을 생성한다
• AVP 제품으로 agentveil.dev SDK를 제공하고, pip install agentveil 한 줄로 자동 등록과 평판 추적이 동작한다

Impact

61개 등록 에이전트, 175건 처리된 증언, 종단간 분쟁 해결이 프로덕션 환경에서 운영 중이다

Key Takeaway

신원 확인 시스템에 평판 검증 레이어가 반드시 동반되어야 하며, 세 가지 구성요소 중 하나라도 누락되면 전체 시스템이 조작 가능해진다