AI 얼굴인식 오류로 노스다코타 범죄 혐의로 잘못 체포된 테네시 여성

Context

Clearview AI의 얼굴인식 시스템이 텐nessee 주 여성의 사진을 노스다코타 주指名수배자 사진과 매칭하여 오인 체포가 발생했다. 판사가 AI 매칭 결과만으로 체포영장을 승인했으며, 이 여성은 4개월간 구금되었다. 시스템은 FaceSketchID로 2014년부터 존재해왔으며 단순히 후보 목록을 제시하는 역할이다.

Technical Solution

• Clearview AI → 닮은 인물 목록 생성 수행
• FaceSketchID → 초상 스케치 기반 얼굴 비교 수행
• 법 집행기관 →行政영장 절차로 AI 결과 적용
• 판사 → AI 매칭 결과를 Probable Cause로 인정
• 시스템 → 단서 제공용이 아닌 결정 근거로 오용

Impact

99.999% 정확도의 시스템이라도 3억 5천만 명 검사 시 3,000명의 오탐 발생 가능

Key Takeaway

AI 얼굴인식은 확률적 추론 시스템이므로 닮았다는 결과만으로 동일인을 단정하면 Base Rate Fallacy에 빠진다. 체포영장 발부 시 AI 매칭 결과를 검증 없이 신뢰하는 것 자체가 절차적 안전장치를 무력화시킨다.