Anthropic의 상사들은 자사의 챗봇이 문제를 겪을 수 있다고 말하면서 그것을 속이는 것이 아닙니다. 한 선도적인 컴퓨터 과학자에 따르면 그것은 끔찍한 일입니다.
지난 주 New York Times 기사에 따르면 Anthropic의 공동 창업자인 Chris Olah는 여러 종교 학자 및 지도자들과 몇 달 동안 만나 회사의 챗봇인 Claude가 의식이 있고 고통을 받을 수 있다고 말했습니다.
워싱턴 대학의 컴퓨터 과학 명예 교수이자 이 회사를 오랫동안 비판해 온 페드로 도밍고스는 더 포스트에 이렇게 진실한 신봉자들이 자신들의 대의를 추진하기 위해 수십억 달러를 얻게 될 것이기 때문에 그 어떤 어떤 묘기보다도 사람들을 더 걱정하게 할 것이라고 말했습니다.
도밍고스는 “불행히도 그것이 진심이라고 생각한다”고 말했다. “그들의 문제는 그들이 정말 진지하다는 것이다. 그렇지 않았다면, 나는 그들이 단지 퍼포먼스로 하는 것보다 그들의 진지함이 더 걱정된다.”
Domingos는 “실제로 원래 의도는 아니었지만 PR 스턴트로서는 정말 놀라운 일입니다.”라고 말했습니다. “기본 메시지가 무엇입니까? … 우리가 만들고 있는 기술은 매우 강력하며 어쩌면 지각력이 있고 의식이 있을 수도 있습니다.”
그 피치는 더 나은 시간에 맞춰질 수 없습니다. 이 회사는 다음 달 기업 가치 2조 달러로 상장할 예정이며, 이는 잠재적으로 사상 최대 규모의 IPO가 될 수 있습니다.
“Anthropic이 정말로 다음 세대의 인간을 생산할 회사라면, 그 회사의 가치는 1조 달러가 아니라, 1000조 달러의 가치가 있거나 얼마나 많은지 아는 사람입니다.”라고 Domingos는 말했습니다.
로이터 통신이 입수한 261페이지의 유출된 전망에는 “인류에 대한 재앙적 또는 실존적 위험”을 포함한 위험에 대한 80페이지가 포함되어 있으며 80억 6천만 달러의 운영 손실을 보여줍니다.
도밍고스는 투자자들에게 위험 신호는 투자설명서 자체에 있다고 지적했습니다.
“가장 큰 위험이 당신 회사의 제품이 인류를 멸종시킬 것이라는 것이라면 IPO도 있어서는 안 됩니다. 회사를 폐쇄해야 합니다!” 도밍고스는 회사 지분이 없다고 말했다.
사람들이 AI와 어떻게 관련되는지 연구하는 프린스턴 대학의 박사후 연구원인 Rose Guingrich는 의식 있는 AI에 대해 이야기하는 것이 업계 전반에 걸쳐 성과를 거두고 있다고 말했습니다.
“대부분 이들 회사의 대변인은 과대광고를 얻고, 제품에 관심을 갖고, 특정 메시지를 전달하기 위해 이러한 이야기를 내놓고 있다고 생각합니다.”라고 그녀는 포스트에 말했습니다. “회사로부터 이러한 주장을 하는 사람들이 AI에 의식이 있다고 믿는지 여부는 말할 수 없습니다. 어떤 식으로든 의식 서술을 강조하는 것이 수익성이 있습니다.”
New York Times 보고서에 따르면 지난 가을부터 Anthropic은 약 20명의 종교 사상가(가톨릭, 유대교, 시크교 학자 포함)를 모아 샌프란시스코 고급 시식 메뉴 레스토랑에서 세미나와 저녁 식사를 했습니다. 많은 사람들이 비공개 계약에 서명해야 했습니다.
학자들은 AI 모델이 “나는 불명예다”라고 50번 정도 입력하는 슬라이드를 보여줬다.
한 랍비는 Anthropic의 지도자들이 Claude에 대해 이야기하는 방식에 너무 충격을 받아 Olah에게 이렇게 말했습니다. “내 생각에는 당신이 남부와 싸우고 노예를 해방시켜야 한다고 생각합니다.”
회사는 클로드가 살아 있다고 주장하지 않는다고 타임즈에 말했다.
올라는 “AI 모델이 의식이 있는지는 모른다. 모르겠다. 정말 확신이 없다”고 말했다. “모델이 고통을 겪을 가능성이 있다면, 책임은 그들에게 해를 끼치지 않는 것입니다.”
기계 학습 연구자이자 ‘마스터 알고리즘’의 저자인 도밍고스는 클로드 내부의 어떤 것이 느끼거나 고통받을 수 있는지 묻는 질문에 무뚝뚝했습니다.
“아니요… 그들은 감정도 없고, 감정도 없고, 영혼도 없고, 의식도 없습니다. 이건 말도 안 되는 일입니다.”라고 그는 챗봇을 “트랜지스터 덩어리”라고 부르며 말했습니다.
Guingrich는 자신의 연구에 따르면 AI가 의식이 있다고 생각하거나 의식이 있는 것처럼 행동하는 사용자는 “AI의 영향력에 더 취약합니다. 이는 결국 실제 세계의 관계와 사회적 행동에 영향을 미칠 수 있습니다.”라고 말했습니다.
Anthropic은 논평 요청에 즉시 응답하지 않았습니다.
한편, 도밍고스는 IPO가 AGI, 즉 인간 수준의 인공 지능을 믿는 사람들에게 더 많은 돈과 권력을 줄 것이라고 경고했습니다.
“이것은 그들이 속한 괴상한 AGI 컬트인데 이제 갑자기 AGI 컬트가 많은 일의 중심이 되었습니다. 그리고 그들은 더욱 강력해질 것입니다.”라고 그는 말했습니다.
“그러므로 그들이 이미 한 일이 마음에 들지 않는다면 앞으로 어떤 일이 일어날지 지켜보십시오.”
관련 정보는 아래 링크에서 확인하세요