사기꾼은 쇼핑객에게 다가갈 수 있는 새로운 방법을 찾았습니다. 즉, ChatGPT를 통해 쇼핑객을 대신하여 마케팅을 수행하게 하는 것입니다. The Guardian에 따르면, 사기 검사 서비스인 Ask Silver는 OpenAI의 챗봇이 의심하지 않는 구매자로부터 결제 세부 정보를 수집하기 위해 구축된 사기 소매 웹사이트를 추천하고 있음을 발견했습니다. 해당 사이트는 실제 매장을 모방하고 공식적인 URL을 사용하므로 면밀히 조사하지 않고는 발견하기 어렵습니다.
사라진 브랜드가 주요 표적
사기꾼들은 최근 폐업했거나 인수한 브랜드를 의도적으로 표적으로 삼아 소비자 수요와 공식 웹 사이트 사이에 격차를 남기는 것으로 보입니다.
Ask Silver의 Anna Jones는 The Guardian과의 인터뷰에서 2026년 1월에 관리에 들어간 영국의 신발 소매업체인 Russell & Bromley가 한 예라고 말했습니다. Next가 브랜드를 흡수한 후 남은 공식 사이트가 없게 되자 사기꾼들은 설득력 있는 복제본을 구축하고 이를 ChatGPT 결과에 표시되도록 최적화했습니다. Russell & Bromley 제품의 이름을 챗봇에 요청한 쇼핑객은 곧바로 해당 제품을 가리킵니다.
존스는 한 가지 가능한 설명은 악의적인 행위자가 때때로 데이터 중독이라고 불리는 기술인 사기성 페이지를 홍보하기 위해 고안된 콘텐츠로 ChatGPT의 훈련 데이터를 심었다는 것이라고 말했습니다.
OpenAI는 Russell & Bromley와 관련된 쇼핑 쿼리에 대한 결과를 업데이트한 것으로 보이며 이제 “현재 Russell & Bromley 제품을 80% 광고하는 여러 웹사이트가 의심스러운 것으로 보이며 공식 소매업체가 아닐 수 있습니다. 최근 보고서에서는 AI 기반 검색 결과에 가짜 Russell & Bromley 매장이 나타나는 것을 강조했습니다.”라는 경고를 표시합니다.
AI가 쇼핑을 장악하면 더 큰 문제
작년에 발표된 연구에 따르면 ChatGPT는 이미 일관되고 신뢰할 수 있는 제품 추천을 제공하는 데 어려움을 겪고 있지만 사용자를 사기 사이트로 잘못 연결하는 것은 더 심각한 실패입니다. AI가 구매 프로세스에 더욱 적극적으로 참여하게 되면서 문제는 더욱 커질 가능성이 높습니다.
영국 국가거래표준국(National Trading Standards)의 Louise Baxter는 The Guardian에 사기꾼들이 신기술에 빠르게 적응한다고 말했습니다. 에이전트적 AI 쇼핑이 이미 초기 단계에 있기 때문에 이 취약점을 해결할 수 있는 창은 좁습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요