Hugging Face가 NTIA의 AI 책임성 정책 요청에 응하여 ML 개발 전 단계에 걸친 투명성 및 다중 이해관계자 참여 메커니즘 도입 방안 제시

Context

AI 기술의 전례 없는 성장으로 책임성 추적이 어려워지고 있으며, 단일 조직만으로는 기술의 영향을 완전히 예측할 수 없는 상황이다. 배포 단계만 평가하는 기존 접근법은 근본적인 문제를 조기에 발견하지 못하고 상당한 피해 이후에 드러나는 한계가 있다.

Technical Solution

• ML 개발 전 단계 책임성 메커니즘: 데이터 수집부터 배포까지 모든 단계에서 평가 및 추적 체계 구축
• 내부 요구사항과 외부 투명성 결합: 문서화 관행으로 개발자 책임성을 명확히 하되, 외부 접근을 통해 주장 검증 및 다중 이해관계자의 의견 반영 가능하게 함
• 다중 분야 참여 확대: 개발자, 연구공동체, 옹호단체, 정책 입안자, 기자 등 다양한 이해관계자를 포함한 참여 메커니즘
• 투명성 중심의 평가: ML 인공물 자체와 평가 결과에 대한 투명성을 우선순위로 설정
• 교육 및 저코드 도구 제공: BigScience, BigCode 같은 대규모 다학제 프로젝트 조직 및 documentation 강화를 통해 기술 이해도 제고

Key Takeaway

AI 시스템의 책임성은 특정 개발 단계가 아닌 전체 라이프사이클에서 추적되어야 하며, 투명한 문서화와 광범위한 이해관계자 참여를 통해 달성된다는 설계 원칙이 핵심이다.