무해해 보이는 AI 애완동물 초상화 제작자나 운동 앱에 누드화 도구가 숨겨져 있을 수 있습니다. Wired 조사에 따르면 Google Play Store와 Apple App Store에 있는 수백 개의 앱이 애완동물 사진 편집기, 언어 교사, 운동 코치 및 기타 일상적인 앱으로 위장한 것으로 나타났습니다.
적절한 조건에서 평범해 보이는 앱은 성적으로 학대적인 딥페이크를 생성하는 숨겨진 인터페이스로 조용히 전환되었습니다. AI Forensics의 연구원들은 400개 이상의 연결된 앱과 도메인을 포함하는 네트워크를 발견했습니다.
일반 AI 앱은 딥페이크 생성기를 어떻게 숨겼나요?
이러한 앱은 노출 기능을 숨기기 위해 교활한 서버 측 트릭을 사용했습니다. 누군가 앱을 설치하면 위치, 언어, 장치 식별자 및 앱을 찾은 방법과 같은 세부 정보가 포함된 원격 서버에 ping이 전송됩니다. 그런 다음 서버는 무해한 버전을 표시할지 아니면 숨겨진 웹 인터페이스를 표시할지 결정합니다.
히든 레이어는 수십 개의 노골적인 딥페이크 템플릿을 제공하여 사용자가 실제 사진을 업로드하고 위협과 폭력이 포함된 노골적인 장면에 삽입할 수 있도록 해줍니다. 연구원들은 특정 트리거가 숨겨진 인터페이스를 드러낼 수도 있다고 말합니다. 예를 들어 Facebook이나 Instagram에서 광고를 클릭한 후 앱을 설치하는 경우입니다.
사용자는 디지털 통화를 구매하여 성적인 딥페이크를 생성할 수 있으며 네트워크는 Meta 플랫폼의 사기성 광고를 통해 확산되는 것으로 알려졌으며 때로는 가짜 업체 이름과 팔로어가 없는 계정을 사용하기도 합니다. 조사 결과 일부 앱은 Apple Pay와 Google Pay를 통한 결제도 허용하는 것으로 나타났습니다. 무해해 보이는 목록과 모든 연령 등급에는 순진한 사용자에게 경고가 없었습니다.
이 앱 뒤에는 누가 있나요?
Wired는 네트워크의 대부분을 중국 개발자와 KeLing Technology Limited라는 홍콩 기업으로 추적했는데, KeLing Technology Limited는 연락을 받은 후 온라인 활동을 삭제했습니다. Google이 이 앱을 삭제하기 전에 한 인기 앱은 다운로드 수가 100,000회를 넘었고, Apple은 이 계획에 대해 알게 된 후 애완동물 초상화 앱인 Viefur를 포함하여 19개를 더 삭제했습니다.
Apple은 앱이 검토 중에 규칙을 준수했다고 밝혔지만 개발자는 나중에 동작을 변경했습니다. 최근 App Store는 누드화 및 미끼 및 전환 앱에 대한 규칙도 업데이트했습니다. Meta는 2025년에 KeLing의 광고를 금지했으며 이후 11,600개의 광고 계정, 5,200명의 사용자에 대해 조치를 취했으며 이 계획과 관련된 209개의 앱을 차단했다고 밝혔습니다.
EU의 누디파이어 앱 금지 조치가 단 한 달 안에 발효됩니다. 그러나 WIRED가 조사를 마무리하는 동안에도 유사한 광고가 계속해서 다시 나타났으며, 이는 이러한 AI 딥페이크 운영자가 얼마나 끈질기게 앱을 푸시할 방법을 찾고 있는지를 보여줍니다.
관련 보도:
이 주제에 대해 더 알고 싶다면 아래를 참고하세요