피드로 돌아가기
Dev.toAI/ML
원문 읽기
1,000억 개 이미지 태깅 및 OpenAI 협업을 통한 AI 콘텐츠 Provenance 표준 확립
AI Content Is Getting Tagged Like Livestock — And That's Actually Good
AI 요약
Context
기존 AI 콘텐츠 식별 방식은 EXIF 데이터 기반의 Metadata 태그에 의존하여 스크린샷, 리사이징, 압축 과정에서 데이터가 손실되는 취약성 보유. 단순 패턴 인식 기반의 사후 검출 방식은 높은 False-positive 비율로 인해 신뢰 가능한 검증 체계 구축에 한계 직면.
Technical Solution
- Pixel 값, Audio Waveform, Video Frame 내에 직접 imperceptible signal을 삽입하는 SynthID Watermarking 기술 도입
- 단순 Metadata 저장 방식과 달리 콘텐츠 자체에 신호를 내장하여 Cropping, Compression, Re-encoding 환경에서도 생존하는 Robustness 확보
- C2PA 기반의 암호화된 Metadata(누가, 어떻게 생성했는가)와 SynthID의 Invisible Watermark(AI 생성 여부)를 결합한 Dual-layer Verification 구조 설계
- Gemini 앱 내부의 폐쇄적 검증 환경을 Google Search, Chrome, Android Circle to Search 등 사용자 접점으로 확장하여 검증 접근성 개선
- 경쟁사인 OpenAI와의 기술 표준 통합을 통해 개별 기업의 Proprietary fragmentation을 제거하고 Industry-wide de facto standard 지향
실천 포인트
- AI 생성 콘텐츠 처리 시스템 설계 시 Metadata-only 방식의 취약성 검토 - 콘텐츠 변형(압축, 캡처) 상황에서도 유지되어야 하는 식별자가 필요한 경우 Watermarking 기술 적용 고려 - 신뢰성 확보를 위해 '생성 주체 증명(C2PA)'과 '생성 방식 증명(SynthID)'의 다중 레이어 검증 전략 채택