OkCupid 모회사 Humor Rainbow가 Clarifai에 300만 장의 사진 데이터를 공유해 안면 인식 AI 학습에 활용된 것으로 FTC가 제재 조치

Context

OkCupid를 운영하는 Humor Rainbow가 Clarifai CEO의 요청에 따라 2014년 9월 사용자의 사진 약 300만 장을 공유했다. 공유된 데이터에는 사용자의 인구통계 정보와 위치 정보도 포함되었다. Humor Rainbow는 Clarifai와 정식 계약을 체결하지 않았으며 공유 데이터의 사용에 대한 제한 조건도 설정하지 않았다. OkCupid 설립자 중 다수가 Clarifai에 투자한 구조였다.

Technical Solution

• Clarifai → OkCupid 사진 약 300만 장으로 안면 인식 AI 학습
• Clarifai → 연령, 성별, 인종을 식별하는 안면 인식 서비스 구축
• Humor Rainbow → 사용자 위치 및 인구통계 정보를 Clarifai에 함께 제공

Impact

FTC는 OkCupid가 사용자에게 데이터 활용에 대해 허위 및성 주장을 했다고 판단했다.

Key Takeaway

투자 관계에 있는 기업 간 데이터 공유는 명시적 동의와 정식 계약 없이 이루어질 경우 규제 위반에 해당한다.