피드로 돌아가기
GeekNewsAI/ML
원문 읽기
Apertus, 주권 AI를 위한 오픈 파운데이션 모델
1,000개 이상의 다국어 학습 및 전체 파이프라인 공개 기반 주권 AI 모델 Apertus
AI 요약
Context
특정 국가나 기업의 데이터 독점 및 폐쇄적 학습 방법론으로 인한 기술 종속성 심화 상황. 기존 오픈 모델들이 가중치만 공개하고 학습 데이터와 정렬 원칙을 은폐하여 재현 가능성이 결여된 한계 존재.
Technical Solution
- Open Weights, Open Data, Open Science 원칙 적용을 통한 학습 데이터 및 가중치, 방법론 전체 공개 구조 설계
- EU AI Act 준수를 위한 PII 제거 및 암기 방지(Anti-memorization) 로직 반영으로 규제 리스크 해소
- 초기 학습 단계부터 1,000개 이상의 언어를 포함한 다국어 데이터셋 구성으로 언어 범용성 확보
- 모델 출시 후 6개월 주기 해시값 파일 업데이트를 통한 개인정보 삭제 요청 반영 및 출력 필터링 시스템 구축
- 8B 및 70B 파라미터 규모 최적화를 통한 동급 상위 오픈 모델과의 성능 경쟁력 확보
Key Takeaway
모델 성능뿐 아니라 학습 레시피와 정렬 원칙의 투명한 공개가 AI 모델의 신뢰성과 재현 가능성을 결정짓는 핵심 설계 요소임.
실천 포인트
- LLM 구축 시 가중치 공개를 넘어 학습 데이터셋의 필터링 기준과 정렬 원칙을 문서화하여 재현 가능성 검토 - PII 제거 및 옵트아웃 메커니즘을 파이프라인에 통합하여 글로벌 규제(EU AI Act 등) 대응 설계 - 모델 업데이트 후 주기적인 해시 기반 출력 필터링 시스템을 도입하여 데이터 프라이버시 최신성 유지