AI 딥페이크는 창작자들에게 골칫거리가 되었고, TikTok은 마침내 이에 맞서 싸우기 위해 나섰습니다. 소셜 미디어 컨설턴트 Matt Navarra는 플랫폼이 제작자의 얼굴을 모방한 AI 생성 콘텐츠를 찾아 직접 신고할 수 있는 기능을 제공하는 새로운 옵트인 도구를 조용히 테스트하는 것을 발견했습니다.
TikTok 미국 대변인 Zachary Kizer는 The Verge에 테스트가 현재 소규모 미국 제작자 그룹으로 제한되어 있음을 확인했습니다. 이로 인해 TikTok은 몇 달 간의 조용한 테스트를 거쳐 이미 18세 이상의 자격을 갖춘 제작자에게 자체 유사성 감지 도구를 확장했으며 올해 초 유명인과 연예 기획사에도 유사한 보호 조치를 확대한 YouTube의 뒤를 잇게 되었습니다.
딥페이크에 맞서기 위해 TikTok은 당신의 실제 얼굴을 스캔하고 싶어합니다
TikTok의 AI 유사성 감지 도구는 선택 사항이지만 이를 사용하려는 창작자는 먼저 Jumio를 통해 신원을 확인해야 합니다. 여기에는 실시간 셀카와 신분증 확인이 포함됩니다. Kizer에 따르면 TikTok은 ID 문서를 보관하지 않는 반면, 얼굴 데이터는 작성자의 모습을 일치시키고 승인되지 않은 AI 생성 콘텐츠를 식별하는 데에만 사용됩니다.
확인이 완료되면 TikTok은 제작자의 얼굴이나 초상이 포함될 수 있는 AI 생성 콘텐츠 스캔을 시작합니다. 잠재적인 일치 항목을 찾으면 작성자는 이를 검토하고 자신을 사칭하고 있다고 생각되는 게시물이나 계정을 신고할 수 있습니다.
여기서 TikTok의 옵트인 접근 방식이 중요한 이유는 무엇입니까?
최근 사건은 AI가 생성한 유사성이 얼마나 빨리 논란의 대상이 될 수 있는지를 보여주었습니다. 이달 초 Meta는 모든 계정이 기본적으로 선택되어 있는 공개 Instagram 사진을 사용하여 누구나 AI 이미지를 생성할 수 있는 Muse Image를 출시했습니다. 백래시가 너무 빨라서 Meta는 단 3일 만에 이 기능을 삭제하고 목표를 놓쳤다고 인정했습니다.
TikTok은 그 스크립트를 뒤집습니다. 확인이 먼저이고 참여는 선택이며 제작자는 통제권을 유지합니다. YouTube와 TikTok이 이러한 종류의 보호 분야를 선도하면서 AI 유사성 감지는 제작자가 모든 주요 비디오 플랫폼에서 기대하는 도구로 빠르게 자리잡고 있습니다.
관련 정보는 아래 링크에서 확인하세요