AI가 생성한 콘텐츠를 찾아내는 것이 거의 게임이던 시절이 있었습니다. 이미지에는 여분의 손가락이 있었고, 챗봇은 지나치게 열정적인 인턴처럼 글을 썼으며, 합성 음성에는 틀림없는 로봇적 우위가 있었습니다. 그런 날들은 빠르게 사라지고 있습니다.
오늘날의 AI 음성은 웃고, 속삭이고, 자연스럽게 멈출 수 있으며, 심지어 많은 청취자를 속일 만큼 감정적으로 들릴 수도 있습니다. 이는 제작자에게는 흥미로운 일이지만 신뢰 문제도 커지고 있습니다. 클립이 실제인지 AI에서 생성되었는지 알 수 없다면 무엇을 믿어야 할지 어떻게 알 수 있습니까?
나중에 밝혀질 수 있도록 진실을 숨기는 것
이것이 바로 ElevenLabs가 해결하려는 과제입니다. 이 회사는 Google DeepMind의 SynthID 워터마킹 기술을 AI 생성 음성에 통합한다고 발표했습니다. 무료 사용자가 만든 텍스트 음성 변환 오디오를 시작으로 앞으로 몇 주 안에 모든 오디오 세대로 확장할 예정입니다.
그 아이디어는 놀라울 정도로 영리하다. 파일을 편집하거나 공유할 때 쉽게 사라질 수 있는 메타데이터를 첨부하는 대신 SynthID는 들리지 않는 디지털 워터마크를 오디오 자체에 직접 삽입합니다. 여러분은 듣지 못하겠지만 ElevenLabs에서는 트리밍, 압축, 속도 변경, 파일 변환, 심지어 메타데이터 제거와 같은 일반적인 편집 후에도 워터마크가 유지된다고 말합니다. 워터마킹 출시와 함께 ElevenLabs는 녹음이 해당 플랫폼을 사용하여 생성되었는지 누구나 확인할 수 있는 무료 오디오 감지기를 출시합니다.
신뢰는 AI의 가장 중요한 특징이 될 수 있습니다
타이밍이 합리적입니다. AI가 생성한 오디오는 실제 녹음과 구별하기가 점점 더 어려워지고 있으며, 딥페이크 사기는 더욱 교묘해지고 있습니다. ElevenLabs는 이미 내부적으로 콘텐츠를 추적하고 플랫폼의 사기성 사용을 금지하고 있지만 영구 워터마크를 추가하면 파일이 서버를 떠나도 사라지지 않는 또 다른 책임 계층이 생성됩니다. 잘못된 정보에 맞서 싸우는 것 이상의 또 다른 이점이 있습니다. 영구 워터마크는 결국 제작자가 AI 생성 저작물의 소유권을 증명하고, 콘텐츠 자격 증명을 보존하고, YouTube, Instagram, TikTok과 같은 플랫폼에서 저작권이 있는 자료를 더 쉽게 추적하는 데 도움이 될 수 있습니다.
물론 워터마킹이 하루아침에 악성 딥페이크를 제거할 수는 없습니다. 악의적인 행위자는 탐지 시스템을 우회하는 방법을 계속해서 모색할 것입니다. 그러나 AI가 생성한 오디오가 인간의 음성과 거의 구별할 수 없게 되면서, 애초에 음성을 생성하는 기술만큼 보이지 않는 출처가 중요해질 수 있습니다. AI의 미래는 합성 음성을 더욱 인간적으로 들리게 만드는 것만이 아닙니다. 또한 모든 사람이 그렇지 않을 때 이를 확실히 알도록 하는 것에 달려 있을 수도 있습니다.
관련 정보는 아래 링크에서 확인하세요