Google DeepMind과 Hugging Face가 SynthID Text를 Transformers v4.46.0에 출시해 LLM 생성 텍스트에 워터마크를 적용 및 감지하는 기능 제공

Context

AI 생성 콘텐츠와 인간 작성 콘텐츠를 구분하기 어려워지면서 잘못된 귀속, 허위 정보 등의 문제가 발생하고 있다. 이를 해결하기 위해 신뢰할 수 있는 콘텐츠 검증 메커니즘의 필요성이 대두되었다.

Technical Solution

• 의사난수함수(g-function)를 활용한 워터마킹: LLM의 생성 과정에 워터마크를 인코딩하되 인간에게는 인지되지 않으면서 훈련된 분류기에는 감지 가능하도록 설계
• Logits 프로세서 기반 워터마크 적용: model.generate() API에 SynthIDTextWatermarkingConfig 객체를 전달하여 추가 수정 없이 모든 LLM에 호환
• Tournament 샘플링 프로세스 통합: keys 매개변수(20~30개 무작위 정수)와 ngram_len 매개변수(기본값 5, 최소값 2)로 감지 가능성과 견고성 사이의 균형 조정
• Bayesian 분류기 기반 탐지: 최소 10,000개 예시로 구성된 데이터셋(워터마크 포함/미포함 분할)을 사용해 워터마크 감지 모델 훈련
• 동일 토크나이저 모델 간 워터마크 공유: 여러 모델이 같은 토크나이저를 사용하면 공통 워터마크 설정과 탐지 분류기를 공유 가능

Impact

아티클에 정량적 성능 수치가 명시되지 않음.

Key Takeaway

LLM 출력에 명시적인 차단 없이 인지 불가능한 방식으로 워터마크를 내장하면 AI 생성 콘텐츠의 출처 검증이 가능해진다. 워터마크 설정과 탐지 분류기의 보안 관리가 핵심으로, 신뢰성 있는 구현을 위해서는 충분한 훈련 데이터셋 확보와 워터마크 설정의 비공개 유지가 필수다.