현실과 혼동 쉬운 'AI 저작물 규제 강화'
인공지능 시대가 도래하자 많은 기업이 AI가 만들어낸 사진과 영상 그리고 오디오를 어떻게 다룰지 고심하고 있다.
지난 18일(현지 시간) 유튜브는 공식 블로그를 통해 현실과 쉽게 혼동되는 인공지능 저작물에 새로운 라벨(딱지)을 붙여 ‘해당 콘텐츠가 AI에 의해 제작됐음’을 명확히 알리겠다고 밝혔다.
예를 들어 실제 존재하는 건물에 불이 난 것처럼 보이게 하는 영상, 딥페이크 영상, 실존 인물의 목소리를 합성한 영상 등이 이에 포함된다.
시청자가 투명성을 원하고 있다는 것이 이번 규정 도입의 배경이다.
또한 유튜브는 창작자가 이를 준수하지 않을 때, 특히 이용자의 혼란과 오해를 불러일으킬 가능성이 있는 경우에는 회사 측에서 직접 영상에 라벨을 추가할 수 있다고 설명한다.
유튜브는 당분간 새 규제에 익숙해질 시간을 주겠다는 입장이지만 지속해서 정책을 위반하는 창작자는 제재받게 될 예정이다.
라벨은 향후 몇 주내 설명란에 표시되기 시작할 것이며 뉴스, 선거, 정치와 같이 보다 민감한 주제를 다룬 콘텐츠의 라벨은 동영상 내부에 배치된다.
AI를 자막 생성, 아이디어 구상 등에 사용한 것은 예외다. 유튜브는 전반적인 진위나 현실성에 영향을 미치지 않는 “명백하게 비현실적인” 콘텐츠와 애니메이션, 색상 조정 및 배경 흐림 등 간단한 특수 효과를 적용한 것만으로는 라벨이 필요하지 않다고 언급했다.
더불어 현재 유튜브는 조작된 허위 정보물의 게시 중단을 요청하는 절차를 개선하고 있으며 자세한 내용은 곧 공유할 계획이라 덧붙였다.
실제로 AI를 악용한 정치적 콘텐츠가 줄줄이 유포되며 전 세계적으로 큰 파장을 빗고 있다. 지난달 한국에선 ‘윤석열 대통령의 양심고백 연설’이라는 제목을 단 딥페이크 영상이 사회관계망서비스(SNS)를 중심으로 삽시간에 퍼지자, 경찰이 수사에 착수했다. 미국 대선에서도 공화당 경선 불참을 유도하는 조 바이든 대통령을 사칭한 음성이 확산된 바 있다. 지난해에는 트럼프 전 대통령이 경찰에 체포되는 가짜 이미지가 공유되면서 논란이 일기도 했다.
이에 업계는 유튜브가 최근 인류가 새롭게 직면한 AI 기반의 거짓 정보의 위험에 맞서 선제 대응에 나섰다 분석한다.