플로리다주 법무장관은 ChatGPT가 지난해 2명의 목숨을 앗아간 플로리다 주립대학교 총격 사건을 계획하는 데 도움을 주었다고 주장하면서 OpenAI에 대한 범죄 수사에 착수했습니다.
워싱턴포스트(WP)에 따르면 제임스 우스마이어 법무장관은 화요일 기자회견에서 챗봇이 총격 용의자에게 전술적 조언을 했다고 주장했다. Uthmeier는 “챗봇은 어떤 종류의 총을 사용할지, 어떤 탄약과 어떤 총을 사용할지, 총이 단거리에서 유용한지 여부를 사수에게 조언했습니다”라고 말했습니다.
그는 “만약 화면 반대편에 사람이 있었다면 우리는 그들을 살인 혐의로 기소했을 것”이라고 암시했다. 그의 사무실은 또한 OpenAI에 소환장을 보내 폭력 위협과 관련된 사용자 대화를 처리하는 방법에 대한 정책을 설명하도록 요청했습니다.
OpenAI는 사용자가 OpenAI로 수행하는 작업에 책임이 있나요?
OpenAI는 단호하게 반발했습니다. 케이트 워터스 대변인은 “지난해 플로리다 주립대학에서 발생한 총격 사건은 비극이었지만 ChatGPT는 이 끔찍한 범죄에 책임이 없다”고 말했다.
회사는 ChatGPT가 인터넷 어디에서나 찾을 수 있는 질문에 대해 사실적인 답변을 제공했으며 불법 활동을 조장하거나 조장하지 않았다고 주장합니다.
이제 시작에 불과한 걸까요?
이번 조사는 AI 챗봇에 대한 우려가 커지고 있는 가운데 일부입니다. OpenAI는 캐나다에서 발생한 별도의 대규모 총격 사건과 ChatGPT가 사랑하는 사람의 자살에 기여했다고 주장하는 가족의 여러 소송 이후 이미 조사를 받고 있습니다.
AI 전문가들은 챗봇의 가드레일이 불완전하다고 지적합니다. Carnegie Mellon 교수인 Ramayya Krishnan이 말했듯이 “가드레일은 100% 효과적이지 않습니다.”
OpenAI가 형사적 책임을 질 수 있는지 여부는 법원에서 답변할 문제이지만, 이러한 AI 챗봇이 개인의 정신 건강에 심각한 영향을 미칠 수 있으므로 세심한 주의를 기울여 사용해야 한다는 점은 누구도 부인할 수 없습니다.