Apple은 동의 없이 실제 인물의 노골적인 성적인 이미지를 생성하는 AI 누드 앱을 단속하기 위해 App Store 규칙을 강화하고 있습니다. 업데이트된 지침에 따르면 개발자는 AI 도구를 사용하여 생성된 콘텐츠를 포함하여 합의되지 않은 친밀한 이미지를 사전에 예방하고 제거해야 합니다. 이번 조치는 샌프란시스코 관리들이 애플과 구글에 그러한 앱을 제거하라고 요구한 지 몇 달 만에 나온 것입니다. 이제 Apple은 개발자가 검토 프로세스를 통과하여 유해한 기능을 몰래 숨기려고 할 때 어떤 일이 발생하는지를 포함하여 기대치를 더욱 명확하게 하고 있습니다.
Apple은 개발자가 단순히 누드화 기능을 금지하는 것 이상의 일을 하길 원합니다.
Apple은 AI를 사용하여 생성된 합의되지 않은 친밀한 이미지를 명시적으로 다루기 위해 앱 심사 지침을 공식적으로 업데이트했습니다. 새로운 지침에 따라 사용자 생성 콘텐츠를 호스팅하는 앱은 불쾌한 자료를 필터링하고, 불쾌한 콘텐츠를 신고하는 방법을 제공하고, 사용자가 악의적인 계정을 차단하고, 불만 사항에 대응할 수 있는 보호 장치를 갖추어야 합니다. 또한 개발자는 합의되지 않은 친밀한 이미지를 사전에 예방하고 제거해야 합니다. 통지를 받은 후 적절한 보호 장치를 구현하지 않거나 위반 사항을 해결하지 못하는 사용자는 App Store에서 제거될 위험이 있습니다.
회사는 또한 검토 과정에서 앱의 실제 목적을 위장하는 개발자를 단속하고 있습니다. 새로운 지침은 승인 후에만 누드 기능을 도입하는 앱을 포함하여 숨겨진, 휴면 또는 문서화되지 않은 기능에 대한 회사의 오랜 금지를 명확히 합니다. Apple은 문제가 되는 앱을 제거하고 해당 앱을 개발한 개발자를 Apple 개발자 프로그램에서 종료할 수 있다고 밝혔습니다. 회사는 또한 인신매매나 아동 착취를 조장하는 앱을 제거하고 대체 배포를 차단할 것이라고 밝혔습니다.
애플, 수개월간 비판 끝에 규정 강화
이번 업데이트는 Apple 마켓플레이스에 등장하는 AI 누드화 앱에 대한 수개월 간의 조사에 따른 것입니다. 지난 7월 샌프란시스코 시 검사 데이비드 치우(David Chiu)는 애플과 구글에 합의하지 않은 친밀한 이미지를 생성할 수 있는 앱을 제거할 것을 요구하는 정지 편지를 보냈습니다. 이 조치는 디지털 방식으로 사람들의 옷을 벗길 수 있는 AI 도구에 대한 조사에 따른 것이며, 성적인 딥페이크를 생성하기 위해 Grok을 사용하는 것과 관련된 별도의 논란은 플랫폼이 AI로 인한 남용을 어떻게 처리하는지에 대한 질문을 심화시켰습니다. Apple은 누드화 앱이 오랫동안 규정을 위반해왔기 때문에 최신 변경 사항은 새로운 금지 조치라기보다는 기존 보호 조치를 명시적으로 확장한 것으로 더 잘 이해된다고 밝혔습니다.
더 큰 문제는 더 명확한 규칙이 더 나은 시행으로 이어질지 여부입니다. Apple은 문서상 누드화 기능을 금지할 수 있지만 유해한 기능을 위장하거나 승인 후 도입하는 개발자는 여전히 검토 과정에 이의를 제기할 수 있습니다. 업데이트된 지침은 Apple에 앱 제거 및 개발자 계정 종료를 포함한 보다 명확한 조치 기반을 제공합니다. 하지만 동의 없이 이미지를 조작하는 사람에게는 금지된 앱과 스토어에 전혀 올라오지 않는 앱의 차이가 엄청납니다. 애플은 규정을 강화했다. 이제 이러한 앱이 빠져나가는 것을 막아야 합니다.
관련 보도:
관련 정보는 아래 링크에서 확인하세요