Elon Musk는 한때 X에서 아동 성적 학대 자료를 제거하는 것이 최우선 과제라고 말했습니다. 그러나 새로운 조사에 따르면 플랫폼은 알려진 악의적인 콘텐츠를 오프라인으로 유지하기 위해 여전히 어려움을 겪고 있는 것으로 나타났습니다. The New York Times와 캐나다 아동 보호 센터의 리뷰에서는 이전에 X에 신고된 자료가 발견되었으며, Grok은 올해 초 아동과 관련된 성적인 이미지를 생성했습니다.
Grok이 생성한 알려진 학대 피해자 관련 이미지
캐나다 센터는 X가 챗봇의 제한을 강화하기 전에 Grok이 아동과 관련된 성적이거나 착취적인 이미지를 만든 65건의 사례를 확인했습니다. 이들 어린이 중 일부는 이미 당국에 학대 피해자로 알려져 있습니다.
사용자는 알려진 피해자의 사진을 변경하도록 Grok에게 요청할 수도 있었습니다. 챗봇은 옷을 입은 아이들에게 란제리나 비키니를 입히고 다른 성적인 시나리오를 만들 수 있습니다. 이 활동은 Grok이 사용자 메시지에 따라 수백만 장의 이미지를 생성하던 12월과 1월에 발생했습니다. 대중의 비판에 따라 X는 챗봇이 그러한 자료를 생산하는 것을 중단하겠다고 말했습니다.
머스크는 이전에 아동 학대 자료를 생성하려는 사용자가 실제 학대 콘텐츠를 공유하는 사람들에게 부과되는 것과 유사한 결과에 직면할 것이라고 약속했습니다. 여기에는 계정 금지가 포함될 수 있습니다.
이와 별도로 The Times는 자체 자동 검색을 실행하여 1월과 6월 사이에 X에 게시된 이전에 신고된 학대 이미지 75개 이상을 발견했습니다. 이러한 게시물 중 일부는 게시 중단되기 전까지 수백 건의 조회수를 기록할 만큼 오랫동안 게시되었습니다. 노골적인 딥페이크에 대한 영국 아동 안전 보고서가 이미 2026년이 된 지 불과 6개월 만에 작년의 모든 총액을 넘어섰기 때문에 이는 더 넓은 추세를 반영합니다.
X는 이 모든 것에 어떻게 대응하고 있나요?
X는 AI가 생성한 자료를 포함하여 이러한 종류의 콘텐츠에 대해 무관용성을 유지하며 자동화된 필터와 독점 탐지 도구를 사용한다고 말합니다. 회사는 지난 달에만 780,000개의 계정에 대해 조치를 취했으며 올해 국립실종착취아동센터에 130만 장의 이미지를 전송하여 543명이 체포되었다고 보고했습니다.
그럼에도 불구하고 xAI는 현재 Grok이 미성년자의 노골적인 이미지를 생성하는 것에 대해 여러 소송에 직면해 있으며 심지어 5월 규제 서류에서 이러한 위험이 투자자에게 영향을 미칠 수 있음을 인정했습니다. 그러나 최신 연구 결과에 따르면 플래그가 지정된 콘텐츠가 여전히 X의 보호 장치를 통과할 수 있는 것으로 나타났습니다.
관련 정보는 아래 링크에서 확인하세요