Apple과 Google이 플랫폼에서 유해한 앱을 포착하는 데 시간이 오래 걸린다고 가정했다면, 새로운 조사에 따르면 문제는 그보다 훨씬 더 심각합니다. TTP(Tech Transparency Project)는 App Store와 Google Play 모두 누드 앱만 호스팅하는 것이 아니라는 사실을 발견했습니다. 그들의 검색 및 광고 시스템은 사용자를 적극적으로 가리키고 있습니다.
Nudify 앱은 실제 인물 사진에서 옷을 디지털 방식으로 벗겨낼 수 있는 AI 도구입니다. 또한 포르노 비디오를 생성하거나 누군가의 초상을 사용하여 성적으로 노골적인 챗봇을 만들 수도 있습니다. 무서운 부분? TTP가 발견한 앱 중 31개는 미성년자에게 적합한 것으로 평가되었습니다.
Apple과 Google이 사용자를 이러한 누드 앱으로 바로 보내는 방법
TTP는 두 앱 스토어 모두에서 “nudify”, “undress”, “deepfake” 및 “AI NSFW”와 같은 용어를 사용하여 검색을 실행했습니다. 각 검색어의 상위 10개 결과 중 약 40%가 여성의 누드나 옷을 간신히 입게 만들 수 있는 앱을 반환했습니다. 하지만 검색결과에서 끝나지 않습니다. 두 플랫폼 모두 해당 결과 내에서 누드 앱에 대한 유료 광고를 실행했습니다. Google의 경우 스폰서 앱의 캐러셀이 포함되었으며 그 중 일부는 공개적으로 포르노였습니다.
자동 완성 기능으로 인해 상황이 더욱 악화되었습니다. TTP가 App Store 검색 필드에 “AI NS”를 입력했을 때 “image to video ai nsfw”를 제안하여 상위 결과에 더 많은 누드 앱이 표시되었습니다. Apple은 App Store의 모든 광고를 관리하며 성인용 콘텐츠를 홍보하는 광고에 대해 명시된 정책을 가지고 있습니다. 그럼에도 불구하고 TTP의 App Store 검색 중 3개는 여전히 첫 번째 결과로 누드 광고를 반환했습니다.
이것이 생각보다 더 큰 문제인 이유
두 스토어 모두에서 확인된 앱은 4억 8,300만 번 다운로드되었으며 평생 수익이 1억 2,200만 달러 이상을 기록했습니다. Apple과 Google은 유료 구독과 인앱 구매를 통해 그 일부를 가져가는데, TTP는 집행이 느슨해진 이유를 설명할 수 있다고 말합니다.
TTP와 Bloomberg가 이러한 앱을 신고한 후 Apple은 그 중 15개를 제거했고 Google은 다른 여러 앱을 정지했습니다. 그러나 두 회사 모두 이러한 앱이 어떻게 심사를 통과했는지, 연령 등급에 따라 미성년자가 앱을 다운로드할 수 있는 이유에 대해서는 설명을 거부했습니다.
Apple과 Google이 조치를 취하기까지 얼마나 걸리나요?
영국 정부는 노골적인 딥페이크에 대한 법률을 제안하고 제정하기 시작했으며, 미국은 최근 그러한 법률에 따라 최초의 형사 유죄 판결을 기록했습니다. 애플과 구글이 보다 단호하게 행동하라는 압력은 점점 더 커질 것입니다.
Apple의 자체 집행 기록은 이미 조사를 받고 있습니다. NBC News가 입수한 서한에 따르면 Apple은 1월에 성적인 딥페이크 때문에 Grok을 App Store에서 철수하겠다고 개인적으로 위협했으며 xAI의 첫 번째 수정 사항이 불충분하다고 거부하기도 했습니다. Apple은 결국 Grok을 그대로 두었지만 이와 같은 보고서가 쌓이면서 두 회사 모두 다른 방향으로 볼 여지가 부족해지고 있습니다.