X 계정 네트워크는 AI 누드화 앱을 더 많은 피드에 밀어넣어 피해자들이 낙진을 억제하기 위해 싸우는 동안 남용되기 쉬운 도구를 사용자에게 또 다른 경로로 제공합니다.
Wall Street Journal 보고서에서 Graphika 수석 연구원 Matthew Patane은 일부 누드 서비스가 유사한 문구를 재사용하는 조정된 소셜 계정을 통해 홍보된다고 말했습니다. 한 네트워크에는 45,000개의 X 계정이 포함되어 있으며 중재를 피하기 위해 간접적인 표현과 검열된 시각적 표현에 의존하는 게시물이 있었습니다.
이번 발견은 X와 노골적인 이미지 도구를 광고하고 유료 비디오 제작을 홍보하는 벨리즈 기반 서비스인 Undress AI와 같은 사이트에 새로운 압력을 가하고 있습니다. Undress AI와 X는 논평 요청에 응답하지 않았습니다.
이러한 앱에 대한 프로모션은 매우 쉽게 찾을 수 있습니다. 우리는 무작위 키워드를 사용하여 아래와 같은 홍보 게시물을 찾았습니다.
게시물이 어떻게 퍼지나요?
Patane이 확인한 계정은 직설적인 설명에 의존하지 않았습니다. 그들은 모든 기능을 자세히 설명하지 않고도 사용자를 누드화 도구로 안내할 수 있는 일상적인 언어와 부드러운 참조를 사용했습니다.
Undress AI는 또한 정지 이미지를 넘어서고 있습니다. 해당 웹사이트에서는 59달러짜리 비디오 제작 옵션을 소개하고 사용자가 옷을 벗고 승마하는 등 성적인 포즈를 선택할 수 있도록 했습니다. 또한 사용자가 친구를 모집할 때 크레딧을 제공합니다.
이러한 조합을 통해 서비스는 두 가지 성장 방식으로 성장할 수 있습니다. 코딩된 게시물은 사이트에 대한 관심을 끌 수 있으며 추천 크레딧은 사용자에게 더 많은 사람들을 끌어들이는 이유를 제공합니다.
도구가 퍼지면 누가 다칠까
피해자는 이미지가 이미 이동된 후에도 피해를 쫓는 경우가 많습니다. 보고된 사례에는 Snapchat, 학교 복도 및 동료 네트워크를 통해 유포되는 조작된 누드 이미지가 설명되어 있으며, 가족들은 이를 제거하려고 시도하는 동시에 학교나 경찰에 조치를 취하도록 압력을 가하고 있습니다.
아이오와주 남학생 그룹의 표적이 된 한 학생은 Undress AI로 만든 이미지가 급우들 사이에 전달되었다고 말했습니다. 그녀는 나중에 온라인 수업으로 옮겼습니다.
X 네트워크는 이러한 위험에 규모를 추가합니다. 업로드된 사진 한 장은 빠르게 사회적 처벌이 될 수 있습니다. 특히 프로모션을 통해 더 많은 사용자가 성적인 이미지 조작을 위해 제작된 도구를 사용하도록 유도할 때 더욱 그렇습니다.
이제 플랫폼은 무엇을 증명해야 할까요?
X는 다른 사람을 오도하려는 의도의 활동을 광범위하게 금지하지만, 조율된 누드 홍보는 더 엄격한 시행 테스트를 만듭니다. 게시물은 명백한 키워드를 피하는 동시에 사용자를 명시적인 조작을 위해 설계된 도구로 유도할 수 있습니다.
주목해야 할 다음 신호는 플랫폼이 이러한 캠페인을 확장하기 전에 포착하는지 여부입니다. 가능한 경우 개인 이미지를 잠그고, 사칭을 신속하게 신고하고, 게시물이 사라지기 전에 증거를 저장하는 것이 좋습니다.
관련 정보는 아래 링크에서 확인하세요