Meta의 독립형 AI 앱은 품질이 낮은 클릭베이트, 가짜 감성 스토리, 참여 미끼 콘텐츠로 넘쳐나는 것으로 알려져 있으며, 점점 더 소셜화되고 대중화되고 있는 생성 AI 플랫폼이 어떻게 조정되고 있는지에 대한 새로운 질문을 제기합니다.
Verge 보고서에 따르면 Meta AI의 소셜 검색 피드 사용자는 조작된 개인 고백부터 오해의 소지가 있는 건강 주장, 반응과 공유를 유도하기 위해 고안된 기괴한 가상 시나리오에 이르기까지 AI가 생성한 이상한 게시물을 접하고 있습니다. 이 문제는 AI로 생성된 대화를 만들고 앱 내에서 공개적으로 검색할 수 있도록 하여 플랫폼의 일부를 소셜 미디어 스타일 콘텐츠 피드로 효과적으로 전환하려는 Meta의 결정과 관련이 있는 것으로 보입니다.
비평가들은 그 결과 사용자가 관심을 끌기 위해 점점 더 터무니없거나 감정적으로 조작적인 AI 콘텐츠를 생성하도록 인센티브를 받는 생태계가 탄생했다고 주장합니다. 일부 게시물은 전통적인 Facebook 클릭베이트 전략과 유사한 것으로 알려졌지만, 다른 게시물은 풍자, 잘못된 정보, AI 생성 스팸 간의 경계를 모호하게 만듭니다.
소셜 AI에 대한 Meta의 추진은 의도하지 않은 결과를 낳고 있습니다.
이 상황은 AI 기업이 직면하고 있는 점점 더 큰 과제를 강조합니다. 즉, 챗봇이 개인 비서에서 생성된 콘텐츠가 공개적으로 공유되고 알고리즘을 통해 표시되는 소셜 플랫폼으로 진화하면 어떤 일이 발생하는지 강조합니다.
Meta는 AI를 단순한 생산성 도구가 아닌 사회적 경험으로 공격적으로 포지셔닝해 왔습니다. 상호 작용을 사적인 대화로 제한하는 대신 회사의 AI 플랫폼은 사용자가 다른 사람들이 찾아보고 참여할 수 있도록 프롬프트, 생성된 이미지 및 AI 지원 게시물을 게시하도록 권장합니다.
이러한 접근 방식은 참여를 유도하는 데 도움이 될 수 있지만 소셜 미디어 플랫폼이 수년 동안 어려움을 겪어왔던 익숙한 조정 문제도 야기합니다. 보고서에 따르면 Meta AI 피드는 이제 감정이 고조된 이야기, 의심스러운 삶의 조언, 조작된 경험, 주로 유용한 정보를 제공하기보다는 반응을 유발하기 위해 설계된 과장된 시나리오를 표면화하고 있다고 합니다.
사용자의 경우 경험이 빠르게 혼란스러워질 수 있습니다. 많은 게시물이 AI에서 생성되거나 AI를 지원하기 때문에 실제 인간 경험, 농담, 실험적 프롬프트, 완전히 조작된 내러티브를 구별하기가 더 어려워질 수 있습니다. 비평가들은 특히 AI 생성 콘텐츠가 더욱 현실적이고 정서적으로 설득력을 갖게 되면서 온라인 신뢰가 더욱 광범위하게 침식될 수 있다고 경고합니다.
이 문제는 또한 기업들이 생성된 콘텐츠에 대한 효과적인 가드레일을 구축하려고 노력하는 동시에 사용자 참여를 높이기 위해 경쟁하고 있는 AI 업계의 광범위한 추세를 반영합니다. AI 도구가 더욱 상호 작용적이고 사회적으로 주도적으로 발전함에 따라 조정 시스템은 보조를 맞추는 데 어려움을 겪고 있습니다.
AI 기반 소셜 피드의 미래는 조정에 달려 있습니다.
Meta는 피드를 전통적인 소셜 네트워크로 포지셔닝하지 않았지만 플랫폼은 점점 더 그렇게 행동합니다. 사용자는 Instagram, Threads 또는 Facebook에서 콘텐츠를 탐색하는 것과 마찬가지로 공개적으로 표시되는 AI 상호 작용을 스크롤할 수 있습니다.
추천 알고리즘은 품질이나 정확성에 관계없이 가장 매력적인 콘텐츠를 증폭시킬 수 있기 때문에 이는 중요합니다. 선정적이거나 오해의 소지가 있는 AI 생성 게시물이 지속적으로 관심을 끌면 소셜 미디어가 역사적으로 분노와 클릭베이트에 보상을 주었던 것과 같은 방식으로 플랫폼은 의도치 않게 저품질 콘텐츠 제작에 보상을 줄 수 있습니다.
Meta가 WhatsApp, Instagram, Facebook 및 독립형 AI 경험을 포함한 생태계 전반에 걸쳐 AI를 계속 통합함에 따라 논란이 발생합니다. 회사는 대화형 AI를 미래 인터넷 경험의 주요 부분으로 보고 있지만, 현재의 반발로 인해 사용자와 규제 기관은 AI 생성 콘텐츠가 표시되고 라벨이 지정되는 방식에 대해 더 강력한 통제를 요구할 수 있습니다.
현재 Meta의 AI 피드는 생성 AI가 소셜 미디어 역학과 충돌할 때 어떤 일이 발생하는지 초기에 보여주고 있으며 그 결과는 이미 놀랍도록 친숙해 보입니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요