Anthropic은 백악관이 강력한 “신화” 및 “우화” AI 모델의 해외 사용을 금지하게 만든 위험을 경시하고 있으며, 미국 관리들은 CEO Dario Amodei가 사이버 보안과 관련하여 일방적이고 이기적인 접근 방식을 취하고 있다는 증거라고 주장합니다.
지난주 말 아마존 CEO 앤디 재시(Andy Jassy)는 아마존 연구원들이 국가 안보를 위협할 수 있는 방식으로 페이블을 탈옥하거나 안전 가드레일을 우회했다고 트럼프 행정부에 경고한 것으로 알려졌다.
백악관은 미토스(Mythos)와 페이블(Fable)에 수출 규제를 적용해 대응했습니다. 수출 통제는 외국인과 미국 외 고객이 해당 모델을 사용하는 것을 막는 제한 조치입니다. Anthropic은 이에 대응하여 Mythos와 Fable을 완전히 오프라인으로 전환했습니다.
Anthropic은 이 결함이 Fable에만 국한된 것이 아닌 “좁은 잠재적 탈옥”이라고 주장했으며 백악관의 문제 처리에 동의하지 않는다고 덧붙였습니다.
회사의 겉보기에 모순되는 말과 행동은 Anthropic이 잠재적인 AI 최후의 날 시나리오에 대한 두려움을 불러일으키는 데 몇 달을 보냈다고 지적한 트럼프 관리들로부터 경멸을 불러일으켰습니다.
트럼프 행정부 고위 관계자는 더 포스트에 “그들은 자신을 제외한 모든 사람의 안전에 집착하는 것 같다”고 말했다. “내가 Anthropic 투자자라면 극도로 걱정할 것입니다.”
상황을 잘 알고 있는 두 번째 고위 관리는 트럼프 행정부가 조치를 취하기 전에 아마존뿐만 아니라 Fable에 대한 우려를 제기한 회사로부터 “거의 6개”라는 말을 들었다고 말했습니다. 해당 관계자는 어느 회사인지 밝히기를 거부했다.
“Anthropic이 이를 심각하게 받아들이고 고립된 것으로 무시하기보다는 액세스를 수정하거나 일시 중지하는 방향으로 움직였다면 이런 일은 결코 일어나지 않았을 것입니다.”라고 두 번째 미국 관리가 말했습니다.
주요 행정부 지도자들은 자신의 우려 사항을 관리하기 위해 Anthropic을 신뢰할 수 없다고 느꼈으며 이러한 우려는 금요일 트럼프 관리와 Amodei 간의 통화 이후에만 커졌다고 Wall Street Journal이 보도했습니다. 회사 경영진은 정부 전문가와 협력해 달라는 요청을 거부한 것으로 알려졌다.
지난 주에 Amodei는 미국 정부가 너무 위험하다고 간주하는 AI 모델을 “차단할 권한을 가져야 한다”고 선언하면서 논란의 여지가 있는 블로그 게시물을 게시했습니다.
Anthropic과 가까운 소식통은 Trump 행정부가 금요일에 주요 관리들에게 연락하여 모델을 오프라인으로 전환하는 데 단 90분만 주었다고 주장했습니다.
이 소식통은 또한 Amodei와 연락이 닿기 어렵다는 보도에 대해 그와 다른 고위 직원 모두 백악관의 연락 후 15분 이내에 연락 가능하다고 주장했습니다.
소식통은 “문제 해결을 거부한 적이 없다. 우리는 어떤 세부 사항도 제시받지 못했다”고 말했다.
Anthropic은 자사의 모델을 다시 온라인에 올리기를 열망하고 있으며 행정부의 우려 사항을 해결하기 위해 24시간 내내 노력하고 있다고 소식통은 덧붙였습니다.
블로그 게시물에서 Anthropic은 수출 통제를 준수하기 위해 모델을 철거하는 것 외에는 선택의 여지가 없다고 주장했으며 직원 중 일부가 외국 국적자이므로 모델 작업을 할 수 없었을 것이라고 언급했습니다.
Scott Bessent 재무장관과 Sean Cairncross 백악관 사이버 국장은 Anthropic 리더십과 열띤 토론에 참여한 관리들 중 하나였습니다.
Anthropic을 강력히 비판하고 있는 백악관 AI 고문인 David Sacks는 “Anthropic이 이전에 최우선 사항이라고 밝힌 안전 요구 사항을 준수하기를 원하지 않는다는 사실에 솔직히 당황했다”고 말했습니다.
“관리자의 희망은 이제 Anthropic이 안전 문제를 해결하고 수출 통제가 해제되어 Fable이 일반 출시로 돌아가는 것입니다.”라고 Sacks는 X에 썼습니다.
백악관의 결정은 부분적으로 중국과 연계된 그룹이 은밀하게 Mythos에 액세스했다는 우려에서 비롯되었다고 Semafor는 보도했습니다. Anthropic은 이미 중국에서 자사 제품에 대한 접근을 금지하고 있습니다.
Anthropic은 처음에 파일럿 프로그램의 일환으로 Apple 및 JPMorgan을 포함한 약 40개 주요 기업에 Mythos를 제공했으며, 광범위하게 출시되면 파괴적인 사이버 공격이 발생할 수 있다고 경고했습니다. 두 달도 채 지나지 않아 Fable 5라고 불리는 Mythos의 “안전한” 버전을 공개적으로 공개했습니다.
워싱턴 DC에 소재한 AI 정책 그룹인 미래를 위한 연합(Alliance for the Future)의 페리 메츠거 회장은 “만약 당신이 인류주의자라면 어떤 다른 결과를 기대했습니까? 당신은 사람들에게 당신의 일이 위험하다고 계속 말하고, 정부가 어떻게 당신을 멈추기를 원하는지 공개적으로 끊임없이 이야기합니다”라고 말했습니다.
4월부터 Anthropic 경영진은 “Claude Mythos” AI 모델이 대중에게 공개되기에는 너무 위험하다고 공개적으로 주장했으며, 개발을 늦추거나 일시적으로 중단할 수 있는 옵션을 갖는 것이 “세상에 좋은” 것이라고 주장했습니다.
Amodei 자신은 AI에 대해 인류를 파괴할 확률이 25%라는 무서운 예측을 하는 경향이 있습니다. 그는 AI가 국가 실업률을 20%까지 치솟게 할 수 있다고 경고했으며, 첨단 AI 칩을 중국에 판매하도록 허용한 트럼프 대통령의 결정은 “북한에 핵무기를 판매하는 것”과 같다고 말했습니다.
Tenacity Venture Capital의 총괄 파트너이자 창립자인 Ben Narasin은 AI에 대한 Anthropic의 무서운 경고가 역효과를 냈다고 말했습니다.
Narasin은 “그는 끊임없이 울부짖는 늑대 때문에 너무 예측 가능해졌습니다.”라고 말했습니다. “갑자기 당신이 요청한 것을 얻었지만 실제로는 그것을 원하지 않는다는 사실을 깨닫지 못했습니다.”
동시에 Narasin은 Anthropic이 이번 사태에서 승자로 나타날 수도 있다고 말했습니다.
Narasin은 “Dario와 OpenAI가 불편을 겪게 될 것이지만 새로운 경쟁자가 등장하는 데 막대한 방해가 될 것입니다.”라고 말했습니다. “그래서 성을 보호하는 새로운 성벽을 쌓은 거죠.”
이 경고는 Anthropic이 “규제 포착” 방법으로 공포를 조장하는 전술을 사용하거나 경쟁사를 희생하여 이익을 얻는 방식으로 규제를 만들고 있다는 Sacks 및 다른 사람들의 주장을 촉발시켰습니다.
회의론자들은 Anthropic이 성장을 가속화하기 위해 안간힘을 쓰고 있는 동안에도 무서운 경고가 왔다고 지적합니다.
이달 초 이 회사는 최대 라이벌인 OpenAI에 앞서 비밀리에 IPO를 신청했습니다. Anthropic 공동 창립자이자 Dario의 여동생인 Daniela Amodei는 회사가 SpaceX 및 Google과 같은 데이터 센터 거래에서 엄청난 양의 컴퓨팅 성능을 확보하기 위해 공개 시장을 활용하여 현금을 확보하는 것을 목표로 한다고 말했습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요