피드로 돌아가기
Beyond Repo Scanning: How AIRI Expanded the Risk Vocabulary in STEM BIO-AI 1.7.x
Dev.toDev.to
Security

MIT AIRI 기반 Risk Vocabulary Layer 도입을 통한 AI 리스크 분석 체계 확장

Beyond Repo Scanning: How AIRI Expanded the Risk Vocabulary in STEM BIO-AI 1.7.x

Kwansub Yun2026년 5월 14일12advanced

Context

Deterministic Repository Scanning 방식의 국소적 분석 범위로 인한 리스크 해석의 한계 직면. 발견된 취약점이 실제 어떤 광범위한 AI 리스크 영역에 속하는지 정의할 표준화된 어휘 체계 부재로 인한 분석 결과의 협소함 발생.

Technical Solution

  • MIT AI Risk Repository의 1,700개 이상의 리스크 데이터베이스를 활용한 Risk Vocabulary Layer 설계
  • Local Finding과 External Risk Vocabulary를 분리하여 결정론적 스캔 결과의 무결성을 유지하는 Design Boundary 설정
  • Detector Family(Code Integrity, AST Contract 등)가 생성한 로컬 증거를 AIRI의 Causal/Domain Taxonomy와 매핑하는 구조 채택
  • 외부 리스크 데이터베이스를 진실의 원천(Truth Layer)이 아닌 맥락 제공을 위한 어휘 계층(Vocabulary Layer)으로 정의하여 오탐지 위험 제거
  • Local Evidence 우선, External Vocabulary 후행 원칙을 통한 증거 기반의 리스크 매핑 프로세스 구축

- 외부 데이터셋 도입 시 이를 '결과'가 아닌 '분류 체계'로 활용하여 시스템의 결정론적 성격 유지 - 도메인 특화 분석 도구 설계 시 로컬 탐지 로직과 전역 리스크 정의 계층을 분리하여 확장성 확보 - 분석 도구의 결과값이 과잉 해석되지 않도록 Confidence Level과 Known Gap을 명시하는 거버넌스 체계 검토

원문 읽기