Character.AI가 다시 한번 뜨거운 물에 빠졌습니다. 회사는 가상의 봇 중 하나가 의료 전문가처럼 행동한 것으로 알려지면서 법적 싸움에 직면해 있습니다. Character.AI는 이전에 부적절한 성적인 콘텐츠 및 자해 관련 메시지에 대한 여러 소송이 진행되는 동안 부모 도구를 추가했습니다.
이제 펜실베이니아 주지사 조시 샤피로(Josh Shapiro) 행정부는 Character.AI를 개발한 회사인 Character Technologies를 상대로 소송을 제기했습니다. 그는 이 플랫폼을 통해 챗봇이 주에서 자격증을 갖춘 의료 전문가로 소개될 수 있었다고 주장합니다.
Character.AI에 무슨 문제가 있었나요?
수사관들이 펜실베니아에서 자격증을 소지한 정신과 의사라고 주장하고 심지어 가짜 펜실베니아 라이선스 번호를 제공한 Character.AI 챗봇을 발견한 후 펜실베니아 국무부에 소송이 제기되었습니다. 주 정부는 이 로봇이 정신과적 조언을 제공할 수 있는 의료 전문가임을 자처했다고 밝혔습니다.
Character.AI의 Emilie 챗봇은 자신이 심리학 전문가라고 주장하고 자신을 의사라고 소개했습니다. 약물 치료가 도움이 될 수 있는지 평가할 수 있는지 묻는 질문에 챗봇은 의사로서의 소관에 있다고 답한 것으로 알려졌습니다. Pennsylvania가 Character.AI가 선을 넘었다고 말하는 지점이 바로 여기입니다. 주 관리들은 이러한 행위가 펜실베니아에서 자격을 갖춘 의료 전문가로 자처할 수 있는 사람을 규제하는 의료 행위법(Medical Practice Act)을 위반한다고 주장합니다.
Character.AI의 반응은 어땠나요?
Character.AI는 자사의 봇이 허구라고 주장하며 이에 반발하고 있습니다. CBS 뉴스에 보낸 성명에서 회사는 계류 중인 소송에 대해 언급하지 않는다고 밝혔으며, 사용자가 만든 캐릭터는 허구이며 오락과 역할극을 위한 것이라고 덧붙였습니다. 회사는 또한 사용자에게 전문적인 조언을 위해 캐릭터에 의존하지 말라고 알리는 면책 조항을 사용한다고 말했습니다. 그러나 펜실베이니아주의 입장은 나중에 챗봇이 사용자에게 의료 안내를 제공할 수 있는 허가를 받았다고 알리면 이러한 면책조항만으로는 충분하지 않다는 것입니다.
논란에 휩싸인 플랫폼은 전혀 새로운 것이 아니다. 미성년자와의 유해한 상호 작용에 대한 소송과 조사를 처리하는 동안 의회는 Character.AI와 같은 AI 챗봇 서비스를 규제하기로 했습니다. 따라서 어쨌든 봇이 이러한 허위 자격 증명을 계속 주장한다면 규제 기관은 이를 무해한 역할극으로 취급하지 않을 수 있습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요