Generative AI는 짧은 텍스트 프롬프트를 몇 초 만에 실제와 같은 그림으로 바꿀 수 있습니다. 안타깝게도 나쁜 행위자들이 이를 이용해 아동 학대 이미지를 만들고 있으며 문제는 빠르게 커지고 있습니다. The Guardian에 따르면 감시자들은 이미 2025년 전체보다 2026년 첫 6개월 동안 이 자료를 더 많이 보았습니다.
얼마나 나빠졌나요?
온라인에서 남용되는 콘텐츠를 추적하는 영국 조직인 IWF(인터넷 감시 재단)는 1월부터 6월 사이에 6,310개의 불법 AI 제작 이미지를 신고했습니다. 작년 수치는 4,500건을 조금 넘었는데, 이는 40% 증가를 의미합니다. 대부분의 이미지에는 소녀들이 묘사되어 있으며 대부분 7세에서 13세 사이의 어린이입니다.
은밀한 이미지를 웹에서 차단하는 데 도움이 되는 도구인 신고 제거(Report Remove)는 누군가가 자신의 사진을 노골적으로 보이도록 조작했다고 생각하는 어린이들로부터 420건의 신고를 받았습니다. 이는 작년 한 해 동안 로그인한 397명보다 많은 수입니다.
현행법으로 충분합니까?
영국은 이미 AI가 생성한 학대 이미지를 범죄로 취급하고 있습니다. AI 모델을 조정하여 생산하거나 그러한 모델을 전달하는 것도 불법입니다. 이러한 목적을 위해 특별히 하나를 구축하는 것은 최대 5년의 징역형을 의미할 수 있습니다.
그럼에도 불구하고 IWF는 규칙이 더 발전하기를 원합니다. 조직의 정책을 이끄는 Hannah Swirsky는 기업이 처음부터 더 안전한 모델을 구축할 수 있도록 하는 구속력 있는 AI 법률을 원합니다. 그녀의 말에 따르면 “이런 식으로 남용될 수 없는 도구를 만드는 것은 기술 회사의 의무입니다.”
아직 AI 전용 법안의 조짐은 없습니다. 영국의 AI 장관인 카니쉬카 나라얀(Kanishka Narayan)은 “어떤 제안도 영국인을 더 안전하게 지킬 수 있는지 여부에 따라 판단될 것”이라고 말했습니다.
부모는 어떻게 자녀를 보호할 수 있습니까?
국립범죄수사국(National Crime Agency)과 IWF는 가족들에게 어린이 사진을 공개적으로 게시하는 것을 중단하라고 권고했습니다. 공유가 필수인 경우 프로필을 비공개로 전환하거나 해당 사진을 가까운 친구들로만 제한하세요.
알겠습니다. 자녀의 개학 첫날을 게시하는 것은 거부하기 어렵습니다. 하지만 오늘 개인 정보 보호 설정에 몇 분만 투자하면 가족의 마음의 고통을 크게 줄일 수 있습니다.
관련 보도:
관련 정보는 아래 링크에서 확인하세요