미납 통행료, 배송 지연, 보상 포인트 만료 등에 대한 의심스러운 문자는 더 이상 고독한 사기꾼의 일이 아닐 수도 있습니다. 이러한 사기 문자 메시지는 수년간 미국 전화에 넘쳐났지만 뭔가 달라졌습니다.
구글은 인공지능이 사기꾼들이 그 어느 때보다 더 크고 설득력 있는 작전을 수행할 수 있도록 돕고 있다고 말합니다. 회사는 이제 Gemini AI를 사용하여 피싱 웹사이트를 만들고 수백만 명의 사용자를 대상으로 하는 대규모 사기 캠페인을 강화한 사이버 범죄 네트워크에 대해 소송을 제기했습니다.
AI 사기를 발견하기가 점점 더 어려워지고 있습니다.
Google의 소송은 Outsider Enterprise라고 불리는 중국의 사이버 범죄 네트워크를 대상으로 합니다. 이 그룹은 텔레그램을 통해 협력하고 전 세계 범죄자들에게 피싱 키트를 배포했습니다.
그들은 Google의 Gemini AI를 사용하여 Google, YouTube, 심지어 US Postal Service와 같은 신뢰할 수 있는 브랜드를 사칭하는 가짜 웹사이트를 구축했습니다. 그들은 AI를 사용하여 이전에는 불가능했던 규모로 수백 개의 사기꾼 웹사이트를 만들었습니다.
이 그룹은 9,000개 이상의 가짜 웹사이트와 100만 개 이상의 사기 URL을 만들었습니다. 6월 1일까지 단 2주 만에 Android 사용자는 55,000개의 의심스러운 텍스트를 신고했고 Outsider Enterprise는 가짜 웹사이트 링크가 포함된 250만 개의 메시지를 보냈습니다.
FBI는 이 작전으로 수십 개국에 걸쳐 피해자로부터 387만 개의 신용카드 번호가 도난당했으며, 2023년 7월 이후 총 손실액이 19억 달러에 달할 것으로 추정하고 있습니다(WSJ 기준).
이에 대해 Google은 무엇을 하고 있나요?
구글은 뉴욕 연방법원에 해당 사업을 완전히 중단하라고 요청했다. 이 회사는 FBI 및 이동통신사 AT&T, T-Mobile, Verizon과 협력하여 이러한 문자가 귀하의 휴대폰에 도달하기 전에 차단하고 있습니다.
Google에 내장된 메시징 방어 기능은 이미 매달 100억 개가 넘는 악성 메시지를 차단하고 있으며, Android의 사기 탐지 도구는 의심스러운 전화와 연락처에 실시간으로 플래그를 지정합니다.
구글은 또한 이러한 보호를 영구적으로 만들기 위해 의회에서 7개의 초당적 법안을 추진하고 있으며, AI가 사실상 무한하게 만든 위협을 막기 위해서는 법적 조치만으로는 충분하지 않다고 주장합니다.
관련 정보는 아래 링크에서 확인하세요