수년 동안 리벤지 포르노와 합의되지 않은 딥페이크 이미지의 피해자들은 해당 콘텐츠를 게시 중단할 수 있는 확실한 방법이 거의 없었습니다. 주법은 도처에 있었고 기술 플랫폼은 발을 끌거나 단순히 조치를 취하지 않았습니다. 마침내 바뀌고 있습니다.
5월 19일부터 Take It Down Act가 미국 전역에서 본격 시행됩니다. 온라인 플랫폼에서는 유효한 신고를 받은 후 48시간 이내에 실제 또는 AI로 생성된 합의되지 않은 친밀한 이미지를 제거해야 합니다. 이를 준수하지 않는 플랫폼은 위반당 최대 $53,088의 민사 처벌을 받게 됩니다.
그 행위는 넓은 그물을 던진다. 소셜 미디어 앱, 게임 플랫폼, 데이트 앱 및 사용자 생성 콘텐츠를 호스팅하는 거의 모든 서비스가 여기에 속합니다. 이는 Meta, TikTok, Snapchat, Reddit, Discord, Pinterest, Bumble, Roblox, 심지어 Walmart와 같은 플랫폼도 이제 이러한 규칙을 따라야 함을 의미합니다.
주요 기술 플랫폼은 실제로 이를 어떻게 처리하고 있나요?
여기 상황이 지저분해집니다. Wired는 14개 주요 회사에 연락하여 사람들이 실제로 게시 중단 요청을 제출할 수 있는 방법을 물었지만 응답은 만족스럽지 않았습니다. 몇몇 대변인은 법안 지원에 관해 모든 옳은 말을 했지만 실제로 콘텐츠를 신고하는 방법을 명확하게 설명할 수는 없었습니다.
일부 플랫폼에서는 준비하는 데 1년이 걸렸음에도 불구하고 법이 발효되는 날까지 보고 양식을 준비할 계획조차 없었습니다. 보고서에 따르면 올해 초 Grok이 동의하지 않는 수천 장의 여성 이미지를 대량으로 유출한 이후 이미 비난을 받은 X는 전혀 대응하지 않았습니다.
전문가들은 신고 절차가 법에서 가장 간과되는 부분 중 하나라고 경고합니다. 그러한 요청을 제출해야 하는 많은 사람들은 자신의 권리에 대해 잘 모르거나 법률 언어를 사용하는 것이 불편한 청소년입니다.
많은 플랫폼에서는 보고 양식을 실시간으로 푸시하기 전에 실제 사용자에게 테스트조차 하지 않습니다. 또한 제출 시 필수 세부 사항이 하나라도 누락된 경우 플랫폼이 이를 핑계로 삼아 요청을 지연하거나 완전히 회피할 수 있는 매우 실제적인 위험도 있습니다.
더 큰 좌절감은 이러한 플랫폼이 맥락을 고려할 여지가 거의 없는 엄격한 보고 양식에 의존하는 경우가 많다는 것입니다. 전반적인 투명성 부족과 함께 많은 사용자는 자신의 상황이 플랫폼의 기존 위반 범주에 딱 들어맞지 않으면 신고가 아무 소용이 없을 것이라고 걱정합니다.
게시 중단 요청은 실제로 어떻게 작동하나요?
합의되지 않은 친밀한 이미지를 제거하는 것은 간단합니다. 그러나 모든 플랫폼에서 이것이 쉬운 것은 아닙니다. 플랫폼이 유효한 요청을 받으면 48시간 내에 그것이 합법적인지 여부를 결정해야 합니다. 그렇다면 플랫폼은 신고된 콘텐츠를 제거하고 플랫폼의 다른 곳에 있는 동일한 복사본을 찾아내야 합니다.
다수의 주요 플랫폼에서는 이를 지원하기 위해 StopNCII라는 업계 도구를 사용합니다. 일치 알고리즘을 사용하여 모든 참여 플랫폼에서 악의적인 이미지를 식별하고 중복 항목에 플래그를 지정하는 방식으로 작동합니다. Reddit, TikTok, Snap, Microsoft Bing 및 Facebook, Instagram, Threads를 포함한 Meta 플랫폼이 모두 여기에 포함됩니다. StopNCII 웹사이트에서 직접 사례를 열어 도구가 이미 검색하고 있는 콘텐츠에 콘텐츠를 추가할 수도 있습니다.
미성년자의 경우 국립실종착취아동센터에서는 노골적인 이미지를 제거하는 데 도움이 되는 전용 원스텝 서비스를 제공합니다. FTC는 콘텐츠를 삭제하지 못한 플랫폼을 신고할 수 있는 전용 웹사이트도 개설했습니다.
주요 플랫폼에서 합의되지 않은 친밀한 이미지를 신고하는 방법은 무엇입니까?
주요 플랫폼에서 합의되지 않은 친밀한 이미지를 제거하는 방법에 대한 빠른 가이드는 다음과 같습니다. 각 이미지에 대한 직접 보고 링크가 포함되어 있습니다.
- 구글과 유튜브: Google에는 한 번에 최대 10개의 링크를 제출할 수 있는 전용 게시 중단 요청 양식이 있습니다. YouTube 콘텐츠를 위한 별도의 양식도 있습니다.
- 메타(Facebook, Instagram, 스레드): Meta는 몇 달 동안 규정을 준수해 왔다고 말합니다. Facebook, Instagram, Threads 및 Meta AI 전반에 걸쳐 제거 요청을 제출하는 방법에 대한 지침을 보려면 Meta의 도움말 페이지로 이동하세요.
- 틱톡: 앱 내 보고 도구와 연결된 전용 양식이 있으며, 게시물의 공유 버튼을 통해 액세스할 수 있습니다.
- 범블: 도움말 센터에서 이 양식을 작성할 수 있습니다. 회사는 모든 보고서가 즉시 검토된다고 밝혔습니다.
- 레딧: 로그인한 사용자는 게시물의 신고 버튼을 누르고 ‘동의되지 않은 친밀한 미디어’를 선택하여 개별 게시물을 직접 신고할 수 있습니다.
- 스냅: Snapchat에는 AI 생성 콘텐츠를 포함하여 은밀한 이미지의 비합의적 유출 또는 위협적 유출을 신고할 수 있는 일반 신고 양식이 있습니다.
- 로블록스: ‘악용사례 신고’ 메뉴 항목이나 도움말 센터의 양식을 통해 제거 요청을 제출할 수 있습니다.
- 에픽게임즈: Epic의 불법 콘텐츠 신고 양식으로 이동하여 ‘사이버 폭력’ 또는 ‘여성에 대한 사이버 폭력’을 선택한 다음 거기에서 관련 비합의 이미지 옵션을 선택하세요.
- 링크드인: 계정이 없는 사람이라도 LinkedIn 고객센터를 통해 삭제 요청을 제출할 수 있습니다.
- 월마트: Walmart 플랫폼의 판매자는 이미지를 업로드할 수 있으며, 이는 Take It Down 법의 적용을 받습니다. 전용 제거 요청 양식은 도움말 센터에서 제공됩니다.
Take It Down Act는 실질적인 진전이지만, 법은 이를 집행하기 위해 구축된 시스템만큼만 효과적입니다. 플랫폼이 이러한 보고 도구를 규정 준수 체크박스가 아닌 우선순위로 처리할 때까지는 이미 충분히 겪은 사람들의 부담이 여전히 큽니다.
관련 정보는 아래 링크에서 확인하세요