생성형 AI가 유튜브 커뮤니티에 미치는 영향
제작한 콘텐츠에 생성형 AI 사용 여부에 대해 공개, 정책 위반 시 콘텐츠 삭제, 수익창출 차단 등의 페널티 부과
유튜브가 공식 블로그를 통해 새로운 AI 정책을 발표했다.
지난 14일, 유튜브는 "시청자가 보고 있는 콘텐츠가 합성일 경우 이를 공개하는 시스템을 도입할 것이다"라는 문구와 함께, 내년부터 크리에이터가 콘텐츠를 올릴 때 해당 콘텐츠에 생성형 AI를 사용했는지 공개해야 한다는 사실을 알렸다.
최근 정치, 사회, 연예 등 다양한 분야에서 자극적인 콘텐츠가 생성되며 논란을 일으키고 있다. 이중 AI를 이용해 일어나지 않은 사건이나 누군가 실제로 하지 않은 말과 행동을 사실인 것마냥 보여주는 사례를 적지 않게 볼 수 있다.
이에 대응하여 유튜브는 '크리에이터가 제작한 콘텐츠가 변형 혹은 합성된 내용을 포함하고 있는지' 그 여부를 공개하는 옵션을 제공할 계획이다. 만약 크리에이터가 변형·합성 여부를 공개하지 않을 경우 콘텐츠 삭제는 물론 유튜브 파트너 프로그램 정지를 통한 수익창출 차단 등의 페널티가 부여된다.
또한 변형·합성 가능성이 있는 콘텐츠에는 눈에 띄는 라벨링을 적용하여 시청자들이 쉽게 구분할 수 있게 만들 예정이며, 혐오감이나 공포심을 불러일으킬 수 있는 콘텐츠의 경우엔 삭제도 가능하다.
이번 발표와 함께 제니퍼 플래너리 오코너(Jennifer Flannery O’Connor) 유튜브 제품 관리 담당 부사장은 "생성형 AI는 크리에이터에게는 창의성을 발휘할 수 있는 기회를, 시청자에게는 플랫폼의 혁신을 경험할 수 있는 시간을 제공한다. 그러나 AI로 인해 발생하는 문제들로부터 유튜브 커뮤니티를 보호하는 것이 가장 중요하다"라고 전했다.
