메타 CEO 마크 주커버그(Mark Zuckerberg)와 엔비디아 사장 젠슨 황(Jensen Huang)은 최근 AI 전문가들이 정부 규제를 요구하는 적색경보를 쏟아내는 데 대해 어깨를 으쓱하며 이 문제는 기업 자체에 맡겨야 한다고 말했습니다.
Zuck은 “사람들은 자신과 일치하지 않고 요청한 대로 수행하지 않는 에이전트를 사용하고 싶지 않을 것이기 때문에” AI 연구소가 더 안전한 모델을 만들려는 자연스러운 인센티브를 갖고 있으며 “모델이 해를 끼칠 경우 상당한 책임”에 직면하게 될 것이라고 말했습니다.
“모든 연구실에는 모델을 안전하게 교육하는 데 필요한 속도로 움직일 책임과 인센티브가 있으며, 이를 보장하기 위해 자체 조치를 취할 수 있는 능력이 있습니다.”라고 그는 화요일 늦게 X에 썼습니다.
“내 견해로는 신뢰와 조정이 에이전트와 모델을 차별화하는 가장 중요한 기능이 되고 있다는 것입니다. 조정에 초점을 맞추지 않는 실험실은 뒤처지게 될 것입니다.”라고 그는 덧붙였습니다.
황 회장은 화요일 빠른 개발과 제품 안전이 서로 반대될 필요는 없으며, 안전 장치를 확보하는 것은 규제 기관이 아닌 각 회사의 책임이어야 한다고 주장했습니다.
황은 화요일 연례 세일즈포스 드림포스(Salesforce Dreamforce) 행사에서 속도 대 안전에 대한 논쟁을 언급하며 “잘못된 선택이다”라고 말했다. “확실히 두 가지를 동시에 가질 수 있습니다.”
“최대한 빨리 달리세요. 하지만 특정 시점에 회사가 통제 불능 상태이거나 제품이 안전하지 않다고 느끼면 잠시 멈춰서 올바른 조치를 취하도록 하세요.”라고 Salesforce CEO Marc Benioff가 청중 앞에서 말했습니다.
그는 화요일 CNBC의 ‘매드 머니’에 출연해 정부 개입을 더 추진하는 것이 ‘완전히 불필요하다’며 이미 ‘많은 법률’이 있다고 말했다.
그들의 발언은 기술이 너무 강력해지면 위험을 두려워하여 경쟁사에 AI 모델 개발 속도를 늦추라고 촉구하는 장문의 에세이를 주말에 발표한 Anthropic CEO Dario Amodei의 경고와 큰 대조를 이루었습니다.
SpaceX 창립자 Elon Musk와 OpenAI CEO Sam Altman도 규제 당국 간의 글로벌 협력을 촉구했으며, Microsoft 억만장자 Bill Gates는 전 세계 어느 정부도 다가오는 AI 위기에 제대로 대비하지 못하고 있다고 경고했습니다.
Dreamforce 컨퍼런스에서 Altman은 Benioff와의 노변담화를 통해 선도적인 기술 기업 간의 글로벌 협력의 필요성을 두 배로 강조했습니다.
Altman은 “우리 업계가 함께 뭉치고 이를 안전하게 수행할 수 있는 충분한 시간을 확보하고 조율할 수 있기를 원한다고 말하는 것은 좋은 일이라고 생각합니다.”라고 말했습니다.
“그러나 상업적 압력과 인종, 일부 회사 또는 국가 간, 일부 국가가 옳은 일을 하지 않을 수도 있다는 암시가 있을 때 사람들은 매우 겁을 먹게 됩니다.”
트럼프 대통령은 안전 경고가 중국이 글로벌 AI 경쟁에서 승리하는 데 도움이 될 수 있는 ‘음모’처럼 들린다며 일축했다.
그는 특히 ‘완벽한 작은 천사인 척’하는 아모데이를 겨냥했다.
중국은 이미 국영 신문을 통해 이러한 경고를 ‘냉전’ 전술에 비유하면서 협력 의지가 없음을 밝혔습니다.
궈자쿤 중국 외교부 대변인은 이번 경고가 ‘공포 조장’에 불과하다고 밝혔고, 시진핑 중국 국가주석은 개발도상국 간 AI 협력 육성에 있어 중국이 앞장설 것이라고 밝혔습니다.
Amodei는 자신의 에세이에서 외국 경쟁자들이 AI 개발 속도를 조정할 의지가 없을 수도 있다고 예측했습니다.
그는 주말 동안 CBS 뉴스의 ‘선데이 모닝’에 출연해 “앞으로 나아갈 유인과 거기서 얻는 군사적 이점이 너무 크기 때문에 그것이 매우 어려울 것이라고 생각한다. 그리고 솔직히 그것이 가능한지는 모르겠지만 노력해야 한다”고 말했다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요