AI의 발전으로 유용한 도구가 많이 등장하는 동시에 인터넷의 가장 어두운 부분도 증폭되고 있습니다.
IWF(Internet Watch Foundation)의 새로운 보고서에 따르면 2025년 온라인에서 AI로 생성된 아동 성적 학대 자료(CSAM)가 급증했다고 밝혔습니다. 이는 생성 AI가 대규모로 어떻게 오용되고 있는지를 강조합니다. 이것은 단지 작은 도약이 아닙니다. 이런 종류의 콘텐츠가 어떻게 생성되고 배포되는지에 대한 증거입니다.
이 소식이 놀라운 이유
IWF에 따르면 2025년에는 AI가 생성한 악성 콘텐츠 이미지와 동영상이 8000개 이상 확인됐는데, 이는 전년 대비 14% 증가한 수치이다. 하지만 더 우려되는 것은 영상 콘텐츠의 증가다. 보고서는 AI로 생성된 비디오가 260배 이상 증가했으며 그 중 다수가 가장 심각한 남용 범주에 속한다고 밝혔습니다.
실제로 분석된 영상 중 약 65%가 가장 극단적인 유형으로 분류됐다. 이는 문제가 얼마나 심각해졌는지를 강조합니다.
AI가 유해 콘텐츠에 대한 장벽을 낮추는 방법
가장 큰 변화는 볼륨이 아니라 접근성입니다.
전문가들은 생성 AI 도구를 사용하면 현실적인 학대 자료를 만드는 것이 훨씬 쉬워진다고 말합니다. 이러한 시스템 중 일부는 실제와 같은 이미지와 비디오를 생성하고, 기존 사진을 조작하고, 최소한의 노력으로 대규모 콘텐츠를 생성할 수 있습니다. 이러한 조합을 통해 악의적인 행위자는 이전보다 더 빠르고 저렴하게 유해한 자료를 생성하고 배포할 수 있습니다.
과거에는 이와 같은 위험한 콘텐츠가 일반적으로 다크 웹과 관련되어 있었습니다. 그러나 보고서는 AI가 생성한 자료가 현재 인터넷의 숨겨진 구석에 국한되지 않고 공개 웹에서 얼마나 많이 발견되고 있는지를 강조했습니다. 이로 인해 탐지가 더 어려워지고 조정이 더 복잡해지며 노출 위험이 높아집니다.
쉬운 해결책이 없는 이유
AI 생성 콘텐츠는 법 집행 기관과 플랫폼에 새로운 어려움을 안겨줍니다. 자료는 100% 합성일 수도 있고 실제 이미지에서 파생될 수도 있기 때문에 출처를 추적하거나 피해자를 식별하는 것이 훨씬 더 어려워집니다. 이러한 유형의 콘텐츠를 제거하는 것은 또 다른 장애물입니다. AI 도구의 급속한 발전으로 인해 보호 수단이 따라잡는 경우가 많습니다.