YouTube는 플랫폼에 범람하는 AI 생성 콘텐츠의 물결에 대처하기 위한 새로운 계획을 가지고 있으며 여기에는 여러분도 포함됩니다. 회사는 이제 시청자에게 비디오가 AI 슬롭처럼 느껴지는지 평가하도록 요청하고 있습니다. 표면적으로 이는 피드의 품질이 낮은 AI 콘텐츠를 처리하는 합리적인 방법처럼 들립니다. 실제로는 해결하는 것보다 더 많은 문제를 일으킬 수 있습니다.
인간은 AI가 생성한 콘텐츠를 발견하는 데 능숙하지 않으며 점점 더 악화되고 있습니다.
이 접근 방식의 가장 기본적인 문제는 사람들이 AI 생성 콘텐츠를 잘 찾아내지 못하고, 인간 탐지와 AI 기능 간의 격차가 빠르게 벌어지고 있다는 것입니다. 초기 AI 콘텐츠에는 로봇 목소리, 뒤틀린 손, 부자연스러워 보이는 얼굴 등 명백한 내용이 있었습니다. 최신 모델에서는 이러한 문제가 대부분 해결되었습니다.
이제 목소리는 자연스럽게 들리고, 얼굴은 설득력이 있으며, 뻔한 선물은 사라지고 있습니다. 도구는 확실히 발전했지만 일반 시청자는 이를 따라잡지 못했습니다. 그리고 이를 뒷받침하는 연구가 있습니다.
AI 얼굴 감지에 대한 최근 연구에 따르면 AI가 생성한 얼굴을 식별하라는 요청을 받았을 때 사람들은 우연보다 약간 더 나은 성과를 거두었습니다. 더욱 우려스러운 점은 AI 얼굴을 식별할 수 있다는 자신감이 실제 정확도보다 지속적으로 높았다는 것입니다. 연구에 따르면 다른 곳에서도 비슷한 패턴이 나타납니다.
딥페이크 탐지에 관한 연구에 따르면 사람들은 딥페이크를 탐지하는 데 어려움을 겪고 있지만 여전히 그렇게 할 수 있다고 믿고 있는 반면, AI 생성 음성 탐지에 대한 연구에 따르면 AI 음성은 이제 일반 청취자에게 실제 음성과 거의 구별할 수 없는 것으로 나타났습니다.
YouTube 자체의 실적은 해당 사례에 도움이 되지 않습니다. Kapwing 연구에 따르면 새 계정에 추천된 처음 500개의 동영상 중 약 21%가 AI 슬롭으로 분류된 것으로 나타났습니다. 반면 The New York Times의 조사에 따르면 15분 세션에서 어린이를 대상으로 한 추천 Shorts 중 40% 이상이 낮은 품질의 AI 콘텐츠를 포함하고 있는 것으로 나타났습니다.
이는 YouTube의 자동 검토 시스템과 직접 검토 시스템을 이미 통과한 콘텐츠입니다. 이러한 시스템으로 인해 너무 많은 AI가 빠져나가게 된다면 시청자가 더 나은 결과를 기대하는 것은 비현실적으로 보입니다.
등급 시스템은 또한 남용의 가능성을 열어줍니다.
시청자가 신뢰할 수 있는 AI 탐지기라 할지라도 새로운 등급 시스템은 남용되기 쉽습니다. 크리에이터에 대한 조직적인 캠페인은 YouTube에서 잘 문서화되어 있는 문제이며 악의적인 행위자가 대량 신고 및 싫어요 폭격을 통해 채널을 표적으로 삼고 있습니다. 사용자가 콘텐츠에 AI 슬롭으로 라벨을 붙일 수 있는 기능은 활용할 수 있는 새로운 도구를 제공합니다. 경쟁 채널, 화난 커뮤니티 또는 조직화된 그룹은 AI가 실제로 사용되었는지 여부에 관계없이 동영상을 신고하기 위해 이를 오용할 수 있습니다.
YouTube는 이러한 등급을 어떻게 확인하거나 평가할지 설명하지 않았으므로 조작의 여지가 많습니다. 수년 동안 시청자층을 구축해 온 제작자는 이제 작품의 질과는 거의 관련이 없는 새로운 위험에 대처해야 할 수도 있습니다. 시스템이 보호 장치 없이 광범위하게 배포되면 품질이 낮은 AI 콘텐츠를 대상으로 하는 만큼 합법적인 제작자에게도 피해를 줄 수 있습니다.
그리고 시청자는 이를 통해 무엇을 얻나요?
YouTube가 어떻게든 악용 사례를 해결하더라도 시스템에는 인센티브라는 또 다른 분명한 문제가 있습니다. AI 콘텐츠를 신고하려면 노력이 필요하고 AI 도구가 실제로 무엇을 할 수 있는지에 대한 어느 정도의 인식이 필요합니다. 하지만 YouTube는 시청자가 AI의 오류를 파악하는 데 도움을 주는 명확한 이점을 제공하지 않습니다. 반면에 플랫폼은 많은 보상을 받지 않고도 더 깨끗한 피드와 꾸준한 사용자 데이터 흐름을 얻습니다.
또한 YouTube가 미래의 AI 모델을 교육하기 위해 이 피드백을 사용하는 것을 막을 수 있는 방법이 없어 잠재적으로 AI 생성 비디오를 감지하기가 더욱 어려워진다는 타당한 우려도 있습니다. 실제로 AI 슬롭에 맞서 싸우기 위한 시스템을 개선하는 데 도움이 되는 시스템으로 바꿀 수 있습니다.
YouTube의 접근 방식은 목표를 벗어났습니다.
새로운 등급 시스템은 YouTube가 AI 슬롭 문제를 심각하게 받아들이고 있음을 보여주기 위한 또 다른 시도이지만 플랫폼은 여전히 충분하지 않습니다. 제작자가 AI 생성 콘텐츠를 게시하는 것을 명시적으로 금지하지 않으며 AI 변경 또는 합성 미디어에 대한 공개를 요구하지만 해당 규칙은 특정 경우에만 적용됩니다. 이미 너무 많은 품질이 낮은 AI 콘텐츠를 빠져나가게 하는 동일한 탐지 시스템에 의존하기 때문에 수익화 페널티도 제한됩니다.
YouTube는 수년 동안 AI 생성 콘텐츠를 허용하고 수익을 창출함으로써 이 문제에 대한 조건을 만드는 데 도움을 주었지만 이를 억제하려는 노력은 모든 면에서 부족했습니다. 데이터가 어떻게 사용될지 설명하지 않고 대가를 제공하지 않고 시청자에게 정리 작업을 아웃소싱하면 시청자를 커뮤니티라기보다는 무료 리소스처럼 취급하게 됩니다. YouTube가 AI 슬로프 문제를 진지하게 해결하고 있다면 지켜보는 사람들에게 일을 넘기기보다는 솔루션을 소유해야 합니다.