Spotify는 불법 온라인 약국과 사기 웹사이트를 홍보하는 데 사용된 것으로 알려진 수만 개의 가짜 팟캐스트를 조용히 제거하는 데 지난 1년을 보냈습니다. 이제 새로운 의회 보고서는 애초에 세계 최대 오디오 플랫폼 중 하나에서 이 계획이 어떻게 성공할 수 있었는지에 대한 의문을 제기하고 있습니다.
Wired 보고서에 따르면, 악의적인 행위자는 실제 청취자를 끌어들이려는 의도가 전혀 없는 수천 개의 가짜 팟캐스트를 만들었습니다. 대신 이들은 Spotify의 검색 순위를 조작하고 오피오이드, 각성제, 벤조디아제핀 등 처방전 없이 처방약을 판매하는 웹사이트의 가시성을 높이기 위해 설계되었습니다.
스포티파이는 57,000개 이상의 팟캐스트 에피소드와 3,000개 이상의 팟캐스트 프로그램을 삭제했으며 해당 작업에 연결된 약 3,500개의 계정에 대해 조치를 취한 것으로 알려졌습니다. 이번 게시 중단은 국회의원들의 지속적인 조사와 문제의 규모를 부각시킨 언론 조사 이후에 이루어졌습니다.
보고서는 매기 하산(Maggie Hassan) 상원의원이 주도했으며, 스포티파이가 신속하게 조치를 취하지 않고, 불법 마약 판매와 관련된 웹사이트 링크에도 불구하고 해당 활동을 법 집행 기관에 신고하지 않았다고 비난했습니다.
팟캐스트는 결코 팟캐스트가 아니었습니다.
더 놀라운 세부 사항 중 하나는 대부분의 콘텐츠가 소비되도록 제작되지 않았다는 것입니다.
Spotify는 조사관에게 가짜 팟캐스트 중 다수가 주로 검색 엔진 스팸으로 기능했다고 말했습니다. 운영자들은 팟캐스트 제목, 설명, 표지 그림에 사용자를 온라인 약국 웹사이트 및 사기 행위로 연결하는 링크를 삽입한 것으로 알려졌습니다. 목표는 검색 엔진에서 Spotify의 권위를 활용하고 해당 외부 사이트의 순위를 높이는 것이었습니다.
실제로 Spotify는 삭제된 에피소드 중 94%가 전혀 재생되지 않았으며 99%는 10개 미만의 스트림을 수신했다고 밝혔습니다. 그러나 일부 에피소드에서는 청중을 찾았습니다. 소수는 수천 건의 청취를 생성했으며 암호화폐를 사용하여 모다피닐과 같은 약물을 구매하는 방법에 대한 지침을 포함하는 것으로 알려졌습니다.
보고서는 또한 다른 팟캐스트 플랫폼에서도 유사한 콘텐츠가 나타나는 것을 발견했으며, 이는 동시에 여러 서비스에 걸쳐 대량의 저품질 콘텐츠를 배포하는 것이 얼마나 쉬워졌는지를 강조했습니다.
AI가 스팸 문제를 더욱 심각하게 만들고 있다
연구원과 국회의원들은 인공 지능이 이러한 작업을 더 쉽게 실행할 수 있다고 믿습니다.
이 보고서는 합성 음성과 합법적인 프로그램을 모방하도록 설계된 자동 생성 콘텐츠를 특징으로 하는 AI 생성 팟캐스트를 지적합니다. Spotify는 조사관에게 현재 음악 스팸에 대한 AI 조정 시스템을 갖추고 있지만 AI로 생성된 팟캐스트를 특별히 금지하지는 않는다고 말했습니다. 회사는 또한 AI가 만든 팟캐스트 콘텐츠를 식별하는 데 특히 유리한 위치에 있지 않다는 점을 인정했습니다.
Spotify는 규칙을 위반하는 콘텐츠를 식별하기 위해 자동 감지 도구, 인간 검토자 및 외부 조정 서비스를 사용한다고 말합니다. 그러나 의회 보고서는 가짜 팟캐스트 운영 규모를 보면 이러한 방어 수단에 상당한 공백이 있음을 보여준다고 주장합니다.
이 사건은 인터넷 플랫폼이 직면하고 있는 점점 더 큰 문제를 강조합니다. AI를 사용하면 대규모로 콘텐츠를 더 저렴하고 빠르게 만들 수 있으므로 스팸 캠페인에는 더 이상 웹사이트만 필요하지 않습니다. 이들은 신뢰할 수 있는 플랫폼, 검색 알고리즘, 추천 시스템을 활용하여 점점 감지하기 어려운 방식으로 사용자에게 접근할 수 있습니다.
Spotify의 경우 이 논란은 콘텐츠 조정 문제가 더 이상 소셜 네트워크에만 국한되지 않는다는 점을 상기시켜줍니다. 심지어 팟캐스트 플랫폼도 게임 검색 순위를 지정하고 사용자를 불법적이거나 잠재적으로 위험한 서비스로 유도하도록 고안된 정교한 스팸 작업의 표적이 되고 있습니다.
관련 정보는 아래 링크에서 확인하세요