The New York Times의 새로운 조사에 따르면 YouTube가 가장 어린 시청자를 겨냥한 기괴한 AI 생성 동영상으로 얼마나 빨리 피드를 넘쳐나는지 알 수 있습니다. CoComelon 동영상 한 편 이후 15분 세션의 추천 Shorts 동영상 중 40% 이상이 합성 영상을 포함했습니다.
이 알고리즘은 유아에게 알파벳과 동물에 대해 가르친다고 주장하는 채널에서 콘텐츠를 푸시합니다. 그러나 클립 자체는 뒤틀린 얼굴, 추가 신체 부위 및 왜곡된 텍스트를 특징으로 하는 무의미한 경우가 많습니다. 30초 이상 실행되는 항목은 없습니다.
전문가들은 형식이 어린 아이들이 미디어를 통해 배우는 데 필수적인 반복이나 서술 구조의 여지를 남기지 않는다고 말합니다. 그러나 동영상은 수백만 건의 조회수를 기록합니다.
다수가 익명으로 활동하는 창작자들은 AI 도구를 안정적인 수입원으로 전환했습니다. 장벽은 낮고 보상은 높으며 피드는 계속 범람합니다.
알고리즘은 품질보다 수량을 우선시합니다.
기자들은 개인 브라우저에서 CoComelon 및 Ms. Rachel과 같은 인기 채널을 시청하면서 몇 주에 걸쳐 분석을 수행했습니다. 그런 다음 추천 YouTube Shorts를 15분 간격으로 스크롤하여 무엇이 표시되는지 확인했습니다.
“Wheels on the Bus” 비디오 이후의 한 세션에서는 권장 사항의 40% 이상이 AI 세대의 징후를 보였습니다. 일부 클립에는 YouTube 자체의 ‘변경된 콘텐츠 또는 합성 콘텐츠’ 라벨이 붙어 있었습니다. 다른 사람들은 시각적인 부분이 일상적인 감지를 피할 수 있을 만큼 매끄럽기 때문에 확인을 위해 AI 감지기가 필요했습니다.
여러 세션에 걸쳐 동일한 동영상과 채널이 반복적으로 표시되었습니다. 이는 알고리즘이 이 콘텐츠를 필터링하는 대신 적극적으로 강화한다는 것을 의미합니다. 많은 계정에서 최소한의 노력으로 최대 조회수에 최적화된 이러한 클립을 하루에 여러 번 생성합니다.
피드를 활성화하는 크리에이터 경제 내부
AI로 제작된 아동 콘텐츠를 제작하는 유튜브 계정 중 다수는 익명으로 운영됩니다. 그들은 연락처 정보를 나열하지 않으며 누가 운영하는지에 대한 식별 가능한 세부 정보를 거의 제공하지 않습니다. 진입장벽이 현저히 낮습니다.
제작자는 종종 온라인 튜토리얼에 따라 Google의 Whisk 및 Runway와 같은 쉽게 사용할 수 있는 도구를 사용하여 스스로 학습합니다. 일부 채널은 유아를 위한 학습 콘텐츠를 찾는 부모의 관심을 끌기 위해 고안된 애니메이션 동물과 함께 노래하는 노래를 특징으로 하는 교육적인 채널로 자처합니다.
재정적 인센티브는 신속한 생산을 촉진합니다. 으스스한 동물이 등장하는 한 할로윈 동영상은 조회수 3억 7천만 회 이상을 기록했습니다. 계정은 최소한의 노력으로 도달 범위를 최대화하도록 최적화되어 하루에 여러 개의 비디오를 쏟아냅니다. 공식은 작동합니다. 빠르게 주의를 끌고, 짧게 유지하고, 알고리즘이 배포를 처리하도록 합니다.
YouTube는 반응하지만 부모는 피드를 감시해야 합니다.
Times가 YouTube와 사례를 공유하고 의견을 요청한 후 플랫폼은 파트너 프로그램에서 인용된 5개 채널을 모두 중단했습니다. 해당 계정은 더 이상 광고 수익을 얻거나 YouTube Kids에 표시될 수 없습니다. 또한 회사는 어린이용 앱에서 초현실적인 동영상 3개를 삭제하고 어린이 안전 정책을 위반한 클립 1개를 삭제했습니다.
하지만 반응은 능동적이지 않고 반응적이었습니다. YouTube는 제작자에게 AI로 생성된 사실적인 콘텐츠를 공개하도록 요구하지만, 어린이를 위한 애니메이션 동영상에는 해당 규칙이 적용되지 않습니다. 따라서 부담은 부모에게 있으며, 도구가 개선됨에 따라 전문가조차도 어려운 작업이라고 생각합니다.
이제 일부 가족은 검증된 콘텐츠로 자체 재생목록을 만들거나 앱을 완전히 제거합니다. 미국 소아과 학회(American Academy of Pediatrics)는 부모에게 AI에서 생성되었거나 매우 선정적인 콘텐츠를 피하라고 조언합니다. 그것을 발견하는 것은 여전히 어려운 부분입니다.