TikTok은 다음에 보고 싶은 것이 무엇인지 정확히 아는 기술을 완성하는 데 수년을 보냈습니다. 앱을 열고 몇 번 스크롤하면 갑자기 귀하의 관심사에 맞춰진 듯한 느낌의 비디오가 제공됩니다. 하지만 TikTok이 당신이 누구인지 알기 전에 무슨 일이 일어날까요? 비디오 편집 플랫폼 Kapwing의 새로운 연구에 따르면 대답은 점점 더 AI 슬롭입니다.
연구에 따르면 새로운 TikTok 계정에 표시되는 동영상의 거의 60%가 AI로 생성된 품질이 낮은 콘텐츠인 것으로 나타났습니다. 그것은 플랫폼의 모호한 구석에 묻혀 있는 틈새 문제가 아닙니다. 이는 알고리즘이 피드를 개인화하기 시작하기도 전에 TikTok이 신규 사용자에게 주는 첫인상입니다. 그리고 그것이 걱정스럽게 들린다면, 어린이 콘텐츠에 대한 조사 결과는 무시하기가 훨씬 더 어렵습니다.
알고리즘의 정크푸드 시대
TikTok의 추천 엔진은 빠르게 적응하도록 설계되었습니다. 플랫폼은 다음에 무엇을 보여줄지 결정하기 전에 좋아요와 팔로우부터 시청 시간과 스크롤 습관까지 모든 것을 살펴봅니다. TikTok의 손길이 닿지 않은 경험이 어떤 모습인지 이해하기 위해 연구원들은 새로운 계정을 만들고 For You 페이지에 게재된 처음 500개의 동영상을 조사했습니다. 그 결과는 놀라웠습니다. 그 중 294개의 동영상이 AI 슬롭으로 분류되었습니다. 이는 TikTok이 자신의 선호도에 대한 의미 있는 데이터를 확보하기 전에 새로운 사용자가 인간이 만든 콘텐츠보다 AI가 생성한 정크를 접할 가능성이 더 높다는 것을 의미합니다.
아마도 TikTok이 다른 플랫폼과 어떻게 비교되는지가 더욱 알 수 있습니다. Kapwing은 이전에 YouTube Shorts에서 유사한 실험을 실행한 결과 AI로 인해 생성된 혼란스러운 부분이 훨씬 적은 것으로 나타났습니다. TikTok은 단지 더 나빴던 것이 아니라 극적으로 더 나빴습니다. 현시점에서 AI 콘텐츠는 단순히 플랫폼에 몰래 들어가는 것이 아니다. 이는 플랫폼의 기본 미학의 일부가 되고 있습니다. 그리고 이것이 실제 이야기일 수도 있습니다. 많은 사용자, 특히 젊은 사용자에게 AI 생성 비디오는 더 이상 가끔 이상한 것이 아닙니다. 그들은 정상화되고 있습니다.
세서미 스트리트와 불쾌한 계곡의 만남
보고서에서 가장 놀라운 부분은 어린이를 대상으로 한 콘텐츠에 초점을 맞추고 있습니다. 연구원들은 TikTok의 어린이 카테고리에 있는 비디오 중 절반 이상이 AI 생성 “슬롭”에 해당한다는 것을 발견했습니다. 특히 해시태그 #만화키즈(# CartoonKids)는 AI 생성 자료에 의해 거의 완전히 추월되었으며, 인간이 만든 것으로 보이는 동영상은 소수에 불과했습니다. 이 비디오를 우연히 본 사람이라면 누구나 공식을 즉시 인식할 것입니다. 친숙한 만화 캐릭터가 기괴한 시나리오에 나타나고, 교육 수업에는 실수가 가득하고, 캐릭터는 불안한 합성 음성으로 말하고, 애니메이션은 이해가 되지 않는 방식으로 바뀌고 변형됩니다.
내용은 얼핏 보면 어린이 프로그램과 비슷하지만, 주의를 기울이는 순간 무너지는 경우가 많습니다. 그것이 문제를 일으키는 것입니다. 어린 아이들은 고품질의 교육 콘텐츠와 자신있게 잘못된 정보를 제공하는 AI 생성 모방을 구별할 수 있는 능력이 없습니다. 숫자를 잘못 이해하는 계산 수업은 어른이 보기에는 우스꽝스러워 보일 수 있지만, 미취학 아동에게는 이와 같은 맥락이 없습니다. 인터넷에는 항상 어린이를 위한 의심스러운 콘텐츠가 있었습니다. 달라진 것은 규모다. 제너레이티브 AI를 사용하면 인간 창작자가 따라올 수 없는 속도로 끝없는 비디오 스트림을 생성할 수 있습니다. 그리고 TikTok의 추천 시스템은 기꺼이 배포하는 것 이상으로 보입니다.
문제는 어린이용 콘텐츠에만 국한되지 않습니다. 연구에 따르면 교육, 과학, 건강, 역사 비디오는 AI 슬롭의 영향을 가장 많이 받는 카테고리 중 하나였습니다. 이는 정확성이 가장 중요한 주제이기 때문에 특히 불행한 일입니다. 제대로 생성되지 않은 코미디 촌극은 스크롤해서 지나치기 쉽습니다. 조작된 세부정보로 가득 찬 역사 수업이나 오해의 소지가 있는 조언을 제공하는 건강 동영상은 전혀 다른 이야기입니다. 공평하게 말하면, AI를 사용하는 모든 창작자가 쓰레기를 생산하는 것은 아닙니다. 일부 제작자는 교육 주제를 더욱 흥미롭게 만들기 위해 AI로 생성된 발표자와 시각 자료를 실험하고 있습니다. 가장 좋은 경우에는 AI가 창작자의 작업을 대체하는 것이 아니라 지원하는 도구로 기능하는 것입니다. 그러나 보고서는 소셜 미디어 전반에 걸쳐 점점 더 커지는 현실을 강조합니다. 즉, 인센티브는 품질보다 양에 더 많은 보상을 주는 경우가 많습니다. 제작자가 동영상을 만드는 데 걸린 시간에 수십 개의 동영상을 생성할 수 있다면 플랫폼은 기술적으로 시청할 수는 있지만 내용이 거의 없는 콘텐츠로 넘쳐나게 됩니다.
TikTok은 사용자가 점점 지겨워지고 있다는 것을 알고 있는 것 같습니다. 회사는 사용자가 보는 AI 생성 콘텐츠의 양을 줄일 수 있는 제어 기능을 도입했으며 AI 활용 능력 이니셔티브에 투자했습니다. 그러나 연구에 따르면 이러한 노력은 홍수에 보조를 맞추는 데 어려움을 겪고 있을 수 있습니다. 아이러니한 점은 소셜 미디어가 독창성, 개성, 전문성, 연결성 등 인간다운 무엇인가를 제공했기 때문에 인기를 얻었다는 것입니다. AI는 그 모든 것을 놀라울 정도로 잘 모방할 수 있습니다. 그러나 모방은 진정성과 동일하지 않습니다. 새로운 사용자가 보는 동영상 10개 중 거의 6개가 AI로 생성된 것이므로 TikTok에 AI 슬롭이 존재하는지 여부는 더 이상 문제가 되지 않습니다. 문제는 이것이 플랫폼을 정의하는 기능이 되었는지 여부입니다. 그리고 이러한 피드와 함께 성장하는 어린이 세대에게는 그 대답이 그 어느 때보다 중요합니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요