기술을 단속할 수 있는 힘을 원하는 AI 파멸론자들이 사랑하는 이론인 효과적인 이타주의(EA)의 ‘아버지’라고 불리는 이 멍청한 교수는 수간을 지지하며 갓 태어난 아기의 생명은 침팬지나 돼지보다 가치가 없다고 말했습니다.
호주의 철학자이자 생명윤리학자인 피터 싱어(Peter Singer)는 장애가 있는 유아를 죽이는 것이 도덕적으로 잘못된 것은 아니며, 음식을 위해 동물을 키우는 것보다 동물과의 성관계가 더 바람직하며, 심지어 괴사성애도 도덕적일 수 있다고 주장합니다.
그는 1970년대부터 전통적인 옳고 그름의 관념을 거부하고 오로지 이익을 계산하고 극대화하는 방식으로 도덕성을 대체할 것을 제안해 왔습니다.
이제 80세가 된 그는 OpenAI의 Sam Altman과 Anthropic CEO Dario Amodei와 같은 AI 보스를 포함하여 실리콘 밸리의 부유한 거장들이 그의 이론을 받아들이지 않았다면 다른 많은 20세기 신세대 철학자들처럼 사라졌을 수도 있습니다.
그러나 이러한 종말론적 이론은 스카이넷을 막는 것과는 관련이 없고 기술 기업이 권력을 장악하고 종말론 숭배 집단을 강화하는 것과 더 관련이 있다고 비평가들은 경고합니다.
“피터 싱어의 세계에서는 누구에게도 권리가 없습니다.” 조지 W. 부시 대통령의 국내 정책 특별 보좌관이었던 스캇 월터가 The Post에 말했습니다.
현재 싱크탱크인 Capital Research Center의 회장인 Walter는 “사실 옳고 그름은 없습니다. 주장되는 이익이나 우리가 설정한 목표만 있을 뿐입니다.”라고 말했습니다.
어두운 전망
논리적인 극단으로 치닫는 이 견해는 싱어를 어두운 곳으로 몰아넣었습니다.
싱어는 1979년 자신의 저서 ‘실천 윤리’에서 “장애가 있는 유아를 죽이는 것은 사람을 죽이는 것과 도덕적으로 동등하지 않다. 아주 흔히 그것은 전혀 잘못된 것이 아니다”라고 썼다.
같은 책에서 그는 갓 태어난 아기의 생명이 침팬지의 생명만큼 가치가 있는지 의문을 제기했습니다.
“태아가 사람과 동일한 생명권을 갖고 있지 않다면 갓 태어난 아기도 마찬가지인 것처럼 보이며, 갓 태어난 아기의 생명은 인간이 아닌 동물에게 돼지, 개, 침팬지의 생명이 가치 있는 것보다 덜 가치 있는 것입니다.”라고 싱어는 썼습니다.
시간이 지나도 그의 견해는 부드러워지지 않았습니다. 2023년에 그는 수간을 공장식 축산과 비교하여 우호적으로 비교한 이전 인터뷰 링크를 공유했습니다.
“피터 싱어는 완전히 명확합니다. 동물은 종종 인간보다 우월하거나 적어도 그가 기꺼이 안락사시켰을 인간보다 우월합니다.”라고 월터는 말했습니다.
그는 장애인 살해에 대한 싱어의 견해가 나치 독일과 유사하다고 덧붙였습니다.
월터는 제3제국에서 최초로 장애 아동을 안락사시킨 히틀러의 주치의의 말을 혈우병 아동도 살 자격이 없다는 싱어의 이전 주장과 비교합니다.
“싱어의 구절에는 ‘다음 아이가 더 나은 삶을 살 수 있도록 우리는 혈우병 아이를 죽일 것입니다’라고 나와 있습니다.”라고 월터는 말했습니다.
비교를 더욱 비극적으로 만드는 것은 싱어가 나치 죽음의 수용소에서 세 명의 조부모를 잃은 홀로코스트 희생자들의 후손이라는 점이라고 월터는 지적합니다.
EA란 무엇인가요?
EA는 Singer의 저작과 2013년 TED Talk에서 성장했지만, 용어 자체는 그의 전 학생이자 옥스퍼드 대학교 철학자 William MacAskill이 만든 것입니다.
가장 기본적인 형태에서는 인간의 고통을 수치 계산과 스프레드시트로 줄이는 것을 목표로 합니다.
지지자들은 개인이 부자가 되는 것을 극대화하는 데 집중하고, 최대 영향력을 계산하여 대의에 돈을 기부해야 한다고 주장합니다.
이는 “구세군이나 자녀의 걸스카우트 부대보다… 사하라 이남 아프리카에서 가장 배고픈 부족”을 우선시한다는 의미라고 Walter는 설명했습니다.
“포스트모던 무신론자 유형은 의미를 찾는 경우가 많습니다. 효과적인 이타주의는 옳고 그름이 존재한다는 주장을 실제로 옹호하지 않고도 의미를 찾을 수 있는 방법을 제공합니다.”라고 Capital Research Center 조사 연구원인 Parker Thayer가 The Post에 말했습니다.
Thayer는 “내 생각에 이것이 본질적으로 그것이 그토록 매력적인 이유 중 하나”라고 덧붙이며 이 운동을 “환원주의”와 “종말 숭배”라고 묘사했습니다.
기술 세계에서 EA 애플리케이션의 전형적인 예는 사라진 암호화폐 거래소 FTX의 창립자인 Sam Bankman-Fried입니다. 그는 처음에는 세상을 돕고 싶었지만 나중에 그 돈으로 더 많은 사람들을 도울 수 있다고 말함으로써 수십억 부의 축적을 정당화했습니다.
AI 두머리즘
EA의 수학적 계산이 먼 미래까지 확장되면 수조에 달하는 미래 인류 세대의 잠재적인 삶은 무의미해진다고 Thayer는 설명했습니다.
“기후 변화는 유능한 이타주의자들에게 아주 큰 일이었습니다. 또한 동물의 권리도 마찬가지였습니다.”라고 그는 말했습니다.
그러나 코로나19 이후 이러한 모델은 더욱 묵시적인 분위기를 띠는 동시에 유죄 판결을 받은 사기꾼 Bankman-Fried와 같은 거액의 인물도 등장시켰습니다.
“Bankman-Fried는 자금 조달 관점에서 이를 도입한 최초의 사람 중 한 명이었습니다. 그는 분명히 전염병 예방에 관해 이미 폐쇄된 조직 전체를 설립했습니다.”라고 Thayer는 말했습니다.
그 에너지는 이제 AI doomerism으로 옮겨갔다고 그는 설명했다.
“그들은 종말이 일어날 수 있다고 생각하는 또 다른 방식일 뿐입니다.”
그러나 이러한 인물들을 괴짜 또는 메시아 콤플렉스를 지닌 우스꽝스러운 자칭 컬트 지도자로 보는 것이 유혹적이지만, Thayer는 그 의미가 극도로 위험하다고 믿습니다.
이전의 종말론적 숭배의 경우, “종말의 날이 일어나지 않으면 그 숭배는 스스로를 기각합니다”라고 그는 말했습니다. “그러나 이 경우에는 AI 안전 전문가가 기록에 대해 위조 가능한 예측을 거의 하지 않기 때문에 더 어려울 것입니다.”
“그들은 결코 타임라인이나 범위에 대한 감각을 제공할 의향이 없으며 심지어 AI가 세상을 끝낼 것이라고 주장되는 방법을 실제로 설명하지도 않는다는 것을 알게 될 것입니다.”라고 그는 말했습니다.
Walter는 AI 파멸자들에게 우리 삶에 대한 “막대한 정부 권력”을 부여하는 것이 진짜 위험이라고 덧붙였습니다.
“우리가 Anthropic, OpenAI, Feds 사이의 파트너십을 허용해야 한다는 생각은 이제 이 비참한 컬트를 매우 나쁜 방식으로 확고히 하는 방법이 될 것입니다.”라고 Walter는 AI에 대한 종말론적 관점에 반대하며 말했습니다.
“모든 종류의 작은 사람들이 AI의 도움을 받을 수 있습니다. 하지만 어쩐지 수십억 달러 규모의 기업이 그런 종류의 경쟁을 하고 싶어하는 것 같지는 않습니다.”라고 그는 말했습니다.
이는 트럼프 대통령이 최근 연설에서 인공지능이 인류를 파괴한다는 두려움을 “사기극”이라며 “로봇이 인간을 대신할 수는 없을 것”이라고 주장하면서 AI의 두머론을 일축한 이후 나온 것이다.
Peter Singer, Sam Altman 및 Dario Amodei는 목요일 논평 요청에 응답하지 않았습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요