피드로 돌아가기
GeekNewsSecurity
원문 읽기
Anthropic, Fable과 Mythos에 30일 데이터 보관 요구
Mythos 모델 오용 방지를 위한 30일 데이터 Retention 정책 도입
AI 요약
Context
모델 역량 강화에 따른 Cyber 및 Bio 영역의 악의적 활용 가능성 증가. 단일 요청 분석만으로는 Best-of-N jailbreaking과 같은 다중 요청 기반의 정교한 공격 패턴 탐지에 한계 노출.
Technical Solution
- 다중 요청 간 상관관계 분석을 통한 오용 패턴 탐지를 위해 30일간의 임시 데이터 보관 체계 구축
- ZDR(Zero Data Retention) 설정 조직 대상의 모델 접근 권한과 보관 설정(Opt-in) 간의 강제적 연결 구조 설계
- AWS Bedrock 및 GCP Agent Platform 등 CSP 환경 내 데이터 잔류를 통한 인프라 격리 및 보안성 유지
- 변조 방지 로그(Tamper-proof logs) 기록 및 승인된 소수 인원만 접근 가능한 엄격한 데이터 거버넌스 적용
- 30일 경과 후 자동 삭제 로직을 통한 데이터 최소화 원칙 준수
- 고객 관리 암호화 키(Customer Managed Keys) 및 접근 투명성 감사 로그 제공으로 신뢰성 보완
실천 포인트
1. AI 서비스 설계 시 단일 요청 기반 필터링 외에 시계열적 요청 패턴 분석을 위한 보관 전략 검토
2. B2B SaaS 제공 시 ZDR 요구사항과 안전 정책 간의 충돌을 해결할 수 있는 세분화된 Privacy Control 옵션 설계
3. 외부 CSP 이용 시 데이터 보관 주체와 관리 권한을 명확히 구분하는 데이터 거버넌스 수립