AI 쇼핑 도우미에게 제품을 찾는 데 도움을 요청할 때 아마도 오해의 소지가 있는 목록도 지적할 것이라고 기대할 것입니다. 새로운 연구에 따르면 Amazon과 Walmart의 AI 도구는 모두 가짜 “Made in USA” 표시를 탐지할 수 있습니다. 그러나 연구에 따르면 소매업체는 AI가 동일한 제품 페이지에서 상충되는 정보를 인식하더라도 이러한 기능을 사용하여 오해의 소지가 있는 목록을 표시하거나 제거하지 않는다고 주장합니다.
연구원들은 이 사기를 어떻게 잡았습니까?
Reuters에 따르면 Columbia Law School의 법률 및 경제 센터 연구원들은 Amazon의 쇼핑용 Alexa와 Walmart의 Sparky 챗봇을 직접 테스트했습니다. 두 보조원 모두 대담한 “Made in USA” 주장과 동일한 목록의 다른 곳에 묻혀 있는 모순된 원산지 세부 정보 사이의 불일치를 찾아낼 수 있는 능력이 있음을 입증했습니다.
또한 연구에 따르면 이러한 종류의 사기는 두 플랫폼 모두에서 매우 흔합니다. 연구원들이 봇에게 회사가 이에 대한 조치를 취하지 않는 이유를 물었을 때 기술적인 한계를 지적하지 않았습니다. Amazon의 Alexa는 미국 브랜드에 대한 피해가 실제로 있음을 인정했지만 Amazon에 직접 비용이 들기 전까지는 무시하기가 더 쉽다고 설명했습니다.
월마트의 스파키(Sparky)는 좀 더 직설적으로, 자사의 침묵은 법적 계산보다는 비즈니스 계산을 반영한다고 노골적으로 밝혔습니다. 연구원들은 또한 Amazon의 어시스턴트가 중국산 제품에 대한 질문에 쉽게 답변하는 반면 “Made in USA” 주장에 대한 유사한 질문은 완전히 차단한다는 사실을 발견했습니다.
쇼핑객을 오도하는 것 이상으로 이것이 왜 중요한가요?
FTC 규정에 따르면 ‘Made in USA’ 라벨이 붙은 제품은 전부 또는 사실상 모두 국내에서 생산되어야 하며 FTC는 이미 작년에 두 소매업체에 제3자 판매자의 허위 주장을 단속하도록 요청했습니다.
이 새로운 연구는 전 FTC 의장 Lina Khan이 설립한 컬럼비아 센터의 첫 번째 연구입니다. Lina Khan은 재임 기간 동안 소매 독점 관행 혐의로 Amazon을 별도로 고소했으며 이 사건은 오늘날에도 여전히 진행 중입니다.
아마존은 가능한 경우 제품 페이지에 원산지 정보가 표시되며 해당 데이터를 더 쉽게 찾을 수 있도록 노력하고 있다고 답했습니다. 한편 월마트는 이에 대한 논평을 내놓지 않았다. Khan은 AI가 계속해서 발전함에 따라 대중이 손실을 입지 않도록 하는 책임이 이제 규제 당국에 있다고 말했습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요