채용 AI Monoculture로 인한 Systemic Rejection 및 인종 차별 검증

Context

미국 고용주의 90% 이상이 소수 벤더의 채용 알고리즘에 의존하는 Algorithmic Monoculture 구조 형성. 기존의 Aggregate 분석 방식은 개별 포지션별 Adverse Impact를 은폐하여 AI 모델의 편향성을 과소평가하는 한계 노출.

Technical Solution

• Title VII 기준을 적용한 Position-by-position 분리 분석을 통한 잠재적 Adverse Impact 식별
• 340만 명의 지원자와 400만 건의 지원 데이터를 활용한 대규모 Empirical Study 수행
• 독립적 의사결정 Baseline 모델과 실제 벤더 모델의 결과값을 대조하여 Systemic Rejection 발생 여부 검증
• 시뮬레이션을 통한 지원 횟수 증가에 따른 추천 확률 및 Systemic Rejection 감소율 산출
• 벤더 의존도에 따른 Homogeneous Outcomes의 상관관계를 분석하여 구조적 병목 지점 파악

Impact

• 흑인 지원자의 25.87%, 아시아인 지원자의 14.74%가 Adverse Impact 포지션에 배치됨
• 4건의 지원서를 제출한 지원자의 10%가 모든 곳에서 거절되는 Systemic Rejection 경험
• 독립적 결정 시 10건의 지원으로 99.9% 확률의 추천을 얻으나, Monoculture 환경에서는 25건의 지원이 필요함
• 아시아인 지원자의 경우 동일 선택률 적용 시 29,000건의 추가 추천 기회 상실 확인

Key Takeaway

중앙 집중화된 단일 벤더 솔루션 도입은 개별 시스템의 효율성을 높일 수 있으나, 전체 생태계 관점에서는 상관관계가 높은 Correlated Failures와 Systemic Rejection을 유발하는 아키텍처적 위험 요소임.