YouTube는 AI의 가장 골치 아픈 용도 중 하나인 실제 사람을 사칭하는 딥페이크 동영상에 맞서 싸우는 데 박차를 가하고 있습니다. 회사는 유사성 탐지 기술을 언론인, 정부 관료, 정치 후보로 구성된 파일럿 그룹으로 확장한다고 발표했습니다. 이는 AI가 생성한 사칭으로부터 공인을 보호하기 위한 조치입니다.
이 기능은 얼굴의 Content ID와 다소 유사하게 작동합니다. 참가자는 시스템이 참가자의 초상을 확인할 수 있도록 짧은 비디오와 정부 ID를 제출합니다. 등록하면 YouTube는 업로드된 동영상에서 외모를 모방한 AI 생성 동영상을 검색합니다. 그러한 콘텐츠가 나타나면 개인은 해당 콘텐츠를 검토하고 잠재적으로 삭제를 요청할 수 있습니다.
AI 사칭에 대한 새로운 방어막
유튜브는 지난해 유튜브 파트너 프로그램에서 크리에이터를 위한 유사성 감지 기능을 처음 도입했습니다. 이제 회사는 특히 선거 및 정치적 담론과 관련된 잘못된 정보 캠페인에 신원이 자주 사용되는 공인을 보호하는 것이 다음 우선 순위라고 믿습니다.
생성 AI 도구 덕분에 딥페이크가 점점 더 현실화되어 사람들이 실제로 한 번도 하지 않은 말이나 행동을 담은 설득력 있는 비디오를 쉽게 만들 수 있게 되었습니다. 정치와 저널리즘에서 이러한 위험은 잘못된 정보부터 평판 손상까지 심각한 결과를 초래할 수 있습니다. 하지만 이 시스템은 단순한 ‘삭제 버튼’이 아닙니다. 유튜브는 삭제 요청이 여전히 기존의 개인 정보 보호 및 조정 지침의 적용을 받을 것이라고 밝혔습니다. 즉, 패러디, 풍자 또는 합법적인 논평에 해당하는 일부 동영상은 온라인에 남아 있을 수 있습니다.
흥미롭게도 YouTube에서는 제작자에게 처음 출시했을 때 게시 중단이 많이 발생하지 않았다고 말합니다. 탐지된 대부분의 콘텐츠는 상대적으로 양성인 것으로 밝혀졌지만, 회사는 표적형 딥페이크 공격의 위험이 더 높은 공인 및 정치 지도자의 경우 상황이 다를 것으로 예상합니다.
현재 이 프로그램은 일반 대중이 아닌 영향력 있는 개인으로 제한됩니다. 그러나 이번 확장은 기술 산업 전반에 걸쳐 더 넓은 변화를 의미합니다. 즉, AI 생성 미디어가 현실과 구별이 불가능해지기 전에 신속하게 가드레일을 구축하기 위해 움직이고 있습니다.