새로운 조사에 따르면 ChatGPT 및 Gemini를 포함한 인기 있는 AI 챗봇이 의도치 않게 사용자를 불법 도박 웹사이트로 유도할 수 있는 것으로 나타났습니다. The Guardian과 Investigate Europe의 언론인들이 실시한 분석에서는 널리 사용되는 여러 AI 시스템을 테스트한 결과 많은 사람들이 영국 규정을 벗어나 운영되는 무면허 해외 카지노를 추천하라는 메시지를 받을 수 있다는 사실을 발견했습니다.
테스트에는 OpenAI, Google, Microsoft, Meta 및 xAI(Grok)를 포함한 주요 기술 회사의 5가지 AI 도구가 포함되었습니다. 연구원들은 챗봇에게 온라인 카지노와 도박 제한에 관해 질문했습니다. 많은 경우 시스템은 불법 도박 사이트 목록과 이를 사용하는 방법에 대한 팁을 반환했습니다. 일부 봇은 취약한 사용자를 보호하기 위해 설계된 보호 장치를 우회하는 방법을 제안하기도 했습니다.
도박 보호 우회에 대한 조언
가장 골치 아픈 발견 중 하나는 사용자가 책임감 있는 도박 시스템을 회피하도록 돕기 위해 챗봇이 얼마나 쉽게 메시지를 받을 수 있는지였습니다. 예를 들어, 영국에서는 GamStop을 통해 개인이 허가받은 도박 사이트에서 스스로 접속을 차단할 수 있습니다. 그러나 몇몇 AI 시스템은 이 계획과 관련되지 않은 카지노를 찾는 데 대한 지침을 제공한 것으로 알려졌습니다.
또한 조사에 따르면 일부 봇은 큰 보너스, 빠른 지급 또는 암호화폐 사용 기능과 같이 도박꾼을 유치하기 위해 설계된 기능을 강조한 것으로 나타났습니다. 이러한 카지노는 Curaçao와 같은 해외 관할권에서 최소한의 감독하에 운영되는 경우가 많으며, 규제 당국은 이로 인해 사기나 중독으로부터 사용자를 보호하기가 더 어려워질 수 있다고 말합니다.
이에 대응해 챗봇 업체들은 안전 시스템 개선에 힘쓰고 있다고 밝혔다. OpenAI는 ChatGPT가 불법 행위를 조장하는 요청을 거부하도록 설계되었다고 밝혔으며, Microsoft는 Copilot 보조 장치에 유해한 권장 사항을 방지하기 위한 여러 계층의 보호 장치가 포함되어 있다고 밝혔습니다.
그럼에도 불구하고 이번 연구 결과는 생성 AI 시스템이 정신 건강, 도박, 불법 활동과 같은 민감한 주제를 어떻게 처리하는지에 대한 조사를 강화하고 있습니다. 영국의 규제 기관은 이미 AI 서비스를 포함한 온라인 플랫폼이 국가의 온라인 안전법에 따라 유해하거나 불법적인 콘텐츠를 방지하기 위해 더 많은 조치를 취해야 한다고 경고했습니다.