ZDNET을 팔로우하세요: 우리를 선호 소스로 추가하세요 Google에서.
ZDNET의 주요 시사점
- Anthropic은 Fable 5와 Mythos 5를 전 세계적으로 출시했습니다.
- 미국은 국가 안보를 언급했지만 자세한 내용은 거의 밝히지 않았습니다.
- Anthropic은 탈옥 주장이 좁고 논쟁의 여지가 있다고 말했습니다.
금요일 저녁 동부 표준시 오후 5시 12분부터 Fable 5와 Mythos 5를 더 이상 사용할 수 없습니다… 누구나, 어딘가에. 분명히 말하면 다른 Claude 모델은 계속 사용할 수 있습니다.
Anthropic의 발표에 따르면, “미국 정부는 국가 보안 당국을 인용하여” Anthropic이 “외국인 Anthropic 직원을 포함하여 미국 내부 또는 외부의 모든 외국인”이 두 모델에 대한 액세스를 비활성화하도록 요구하는 수출 지침을 발표했습니다.
또한: 클로드 페이블 5(Claude Fable 5)는 AI 연구원들을 비밀리에 제한했고 인터넷은 열광했습니다.
그 결과 Anthropic은 미국 내외의 모든 사람을 위해 Fable 5와 Mythos 5를 비활성화했습니다.
내 Claude Code 세션에서 그 효과를 확인할 수 있습니다. Claude Fable 5를 선택하여 세션을 시작했을 때 Claude는 “현재 Claude Fable 5를 사용할 수 없습니다.”라고 응답했습니다. 그런 다음 “선택한 모델(claude-fable-5)에 문제가 있습니다. 존재하지 않거나 액세스할 수 없는 것일 수 있습니다.”라고 문제를 설명했습니다.
흐리게 표시된 섹션은 내 코딩 구성에 관해 이야기하는 시작 프로세스의 결과로, 현재 상황에서는 그다지 흥미롭지 않습니다.
앤트로픽(Anthropic)의 성명
Anthropic은 처음에 정부의 성명을 “지시”라고 불렀으나 나중에는 “국가 안보 우려에 대한 구체적인 세부 사항을 제공하지 않은” 편지라고 설명했습니다. 회사는 “우리는 정부가 Fable 5를 우회하거나 ‘탈옥’하는 방법을 알고 있다고 믿고 있는 것으로 알고 있습니다.”라고 말하면서 매우 흥미롭고 분명히 신중한 프레이밍을 사용합니다.
회사는 “이전에 알려진 소수의 사소한 취약점”을 식별하는 데 사용되는 “특정 기술”의 시연을 보았다고 말했습니다. 그것이 무엇을 의미하는지는 정확히 명확하지 않습니다. 이는 기술이 취약점을 활용할 수 있다는 의미입니까, 아니면 이전에 알려진 경우 수정되었습니까?
또한: Anthropic의 새로운 Claude Fable 5는 Mythos와 동일한 기본 모델이지만 가드 레일이 부착되어 있습니다.
또 다른 진술은 그것과 관련이 있습니다. 회사는 모든 취약점이 “상대적으로 단순하다”며 “우리는 공개적으로 사용 가능한 다른 모델도 우회할 필요 없이 이를 발견할 수 있다는 것을 발견했습니다”라고 밝혔습니다. 이는 다른 경쟁 모델이 Fable 5 및 Mythos 5에서 취약점을 발견할 수 있다는 의미입니까, 아니면 그러한 취약점이 다른 모델에 존재한다는 의미입니까?
회사는 Fable 5 출시 게시물에서 말한 내용을 반복하면서 안전 장치를 설명했습니다. “아직 어떤 테스터도 찾을 수 없었습니다. 범용 탈옥,” 이탤릭체입니다. Anthropic은 취약점에 대한 잠재적인 우려를 보여 주었는데, 이는 저에게 솔직하고 현실적이라고 생각합니다.
우리는 현재 어떤 모델 제공자에게도 완벽한 탈옥 저항이 가능하지 않다고 생각합니다. 업계에서 사용되는 모든 보호 장치는 다음과 같은 위험에 취약합니다. 비범용 탈옥 (이것은 유도할 수 있다 일부 특정 상황에서는 사이버 정보), 보편적인 탈옥은 결국 미래에 발견될 가능성이 높습니다. 우리는 Fable 5를 출시할 때 이를 분명히 밝혔습니다.
또한: Claude Fable 5는 AI 연구원을 비밀리에 제한했고 인터넷은 열광했습니다.
그런 다음 Anthropic은 금요일 Fable kerfuffle 뉴스에서 논의한 30일 유지 관행을 포함하여 방어 전술을 설명했습니다.
위반은 어디에 있습니까?
Anthropic에 따르면, “현재까지 정부는 잠재적으로 좁고 보편적이지 않은 탈옥이 가능하다는 구두 증거만 제공했습니다.”
회사는 이번 탈옥이 모델에게 “특정 코드베이스를 읽고 소프트웨어 결함을 수정”하도록 지시하는 것으로 구성되어 있다고 밝혔습니다. 이어 “우리는 탈옥 가능성이 있는 사례 1건을 정부와 공유한 것으로 파악하고 있다”며 “정부 지침의 근거라고 생각되는 보고서를 검토했다”고 밝혔다.
또한: 무료로 바이브 코딩으로 1,200달러를 절약하려고 했으나 금방 후회했습니다.
Anthropic은 Fable 5 및 Mythos 5에 대한 지침에 대해 “표시된 기능 수준이 두 가지 새로운 Claude 모델에만 고유한 것이 아니라 OpenAI의 GPT-5.5에 대한 특정 이름 확인을 포함하여 다른 모델에서 사용할 수 있음을 확인했습니다”라고 반박했습니다. Anthropic은 또한 “능력”이 “시스템을 안전하게 유지하는 방어자들에 의해 매일 사용된다”고 말했습니다.
비하인드 스토리
주말 동안 인터넷이 검색되었고 우리는 상황에 대해 더 많은 정보를 제공하는 보고서를 받기 시작했습니다. 합리적으로 신뢰할 수 있는 온라인 소스에서 제공한 몇 가지 추가 세부정보를 살펴보세요.
전 백악관 AI 및 암호화폐 특별 고문이자 현재 대통령 과학 기술 자문 위원회 공동 의장인 David Sacks는 행정부가 Anthropic에게 보고된 탈옥을 수정하거나 모델을 철회하도록 요청했지만 Dario Amodei가 거부했다고 X에 게시했습니다.
금지 조치로 이어진 사건을 재구성한 폴리티코(Politico)는 아마존 CEO인 앤디 재시(Andy Jassy)가 백악관에 이 문제를 처음으로 신고하고 수출 통제를 시작한 사람이라고 보도했습니다. 그러나 The Verge는 Jassy의 전화 통화뿐만 아니라 Amazon의 자체 보안 연구가 백악관을 금지령으로 이끌었다고 보도했습니다.
또한: Word, Excel, PowerPoint에서 Claude를 위해 Copilot을 버린 이유와 귀하도 그렇게 할 수 있는 방법
월스트리트저널(WSJ)은 아마존이 탈옥 결과를 상무부에 전달해 금지령을 내렸다고 보도했다. Axios는 Commerce가 금요일에 Anthropic에게 모델을 철거하기 위해 약 90분의 시간을 주었다고 보고했으며 공식 제어 편지는 오후 5시 30분에 나왔습니다.
The Information은 익명의 미국 관리가 백악관이 다른 AI 회사에 제한을 확대할 가능성이 낮다고 말했습니다.
또한 두 개의 정부 트윗도 있습니다. 첫 번째는 이전에 SECDEF로 알려진 역할이었던 미국 전쟁 장관 Pete Hegseth가 X에서 다음과 같이 말했습니다. “3개월 전 @DeptofWar는 @AnthropicAl을 우리 건물에서 영원히 쫓아냈습니다. 날이 갈수록 그것이 왜 올바른 조치였는지 입증됩니다.”
전쟁부 최고정보책임자 Kirsten Davies는 이렇게 말했습니다. “우리는 국가 안보와 전투원, DIB 파트너, 중요 인프라, 국제 파트너 및 동맹국의 보안을 우선시하는 @POTUS 및 @SecWar를 전폭적으로 지원합니다. 일부 사항은 수익 주기, 클릭베이트, IPO 전 가치 평가보다 단순히 더 중요합니다. 미국 우선. 항상.”
또한: AI 모델 릴리스 추적기: Microsoft AI의 첫 번째 추론 모델 출시
일요일 저녁 현재 Axios는 백악관과의 논의를 계속하기 위해 Anthropic 고위 기술 직원이 워싱턴으로 파견되었다고 보고했습니다. 분명히 이러한 대화는 대부분 가상 대화에서 실제, 대면 대화 및 작업 세션으로 전환되었습니다.
물론 인터넷이 인터넷이기 때문에 더 많은 것이 있습니다. 하지만 이를 통해 이 특별한 소란이 온라인에서 어떻게 형성되었는지에 대한 좋은 아이디어를 얻을 수 있습니다.
Anthropic은 이 지침에 동의하지 않습니다.
Anthropic은 “정부가 투명하고 공정하며 명확하고 기술적 사실에 근거한 법적 절차의 일환으로 안전하지 않은 배포를 차단할 수 있는 능력을 가져야 한다고 믿습니다”라고 말했습니다.
회사는 지침을 따르고 모든 사용자의 두 가지 새로운 기반 모델에 대한 액세스를 제거하고 있다고 설명합니다. 그러나 “협소한 잠재적인 탈옥 가능성이 수억 명의 사람들에게 배포된 상용 모델을 리콜하는 원인이 되어야 한다”는 점에는 동의하지 않는다고 말했습니다.
또한: Anthropic의 AI 강좌를 통해 무료로 Claude Code를 배우는 방법 – 단 20분 밖에 걸리지 않았습니다.
Anthropic은 또한 이러한 유형의 대응이 “업계 전반에 걸쳐” 적용된다면 모든 최전선 모델 제공업체의 새로운 모델 배포에 어느 정도 냉각 효과가 있을 것이라고 말했습니다.
Anthropic은 혼란에 대해 사과하며 발표를 마무리합니다. 회사 측은 “이는 오해라고 생각하며, 조속히 접근권한을 복구하기 위해 노력하고 있다”고 밝혔다.
백핸드 방식의 마케팅 승리
이것은 흥미로운 이야기입니다. 한편으로 Anthropic의 AI 제품의 군수품 잠재력에 대한 우려는 진정한 국가 안보에 영향을 미칩니다. AI를 접하면서 우리는 급속한 능력의 발전이 어떤 새로운 도전을 안겨줄 것인가, 즉 “이번에는 무슨 신선한 지옥이냐”는 질문에 직면하게 된다.
그렇죠. 그런 일이 일어났습니다. 이것이 우리가 좋은 것을 가질 수 없는 이유이다.
또한: 클로드로 전환하시겠습니까? ChatGPT 추억을 가지고 가는 방법은 다음과 같습니다.
Anthropic의 관점에서 볼 때, 저는 회사가 완벽을 위해 그렇게 열심히 일해 온 일 때문에 이런 일을 겪고 싶지 않다고 확신합니다. 그런데 맙소사, 금을 마케팅하는 건가요? 백악관이 너무 강력해서 잘못된 사람의 손에 넘어갈 수 없다고 말한 제품을 생산하는 것은 Claude Fable과 Mythos가 진짜 거래라는 사실을 확실히 보여줍니다. 대부분의 소프트웨어 공급업체는 자사 제품이 효과를 발휘할 수 있다는 사례를 공유할 수 있는 고객 사례를 찾기 위해 막대한 마케팅 예산을 지출합니다. Anthropic은 백악관이 수출을 중단하고 외국인이 미국에서 사용하는 것을 중단했습니다. 너무 좋아 직장에서.
누구도 그런 종류의 마케팅을 원하지 않습니다. 특히 새로운 주력 제품이 단종될 위험이 있는 경우에는 더욱 그렇습니다. 하지만 이후에도 Anthropic이 제품을 배송할 수 있다는 사실을 의심하는 사람은 아무도 없을 것입니다. 회사가 정부 사람들을 돌아서 Fable을 다시 시장에 출시할 수 있다면 사람들이 Fable을 사용하기 위해 두 배의 비용을 지불하고 싶어하는 이유를 확실히 알 수 있습니다.
소셜 미디어에서 저의 일상적인 프로젝트 업데이트를 팔로우하실 수 있습니다. 내 주간 업데이트 뉴스레터를 구독하고 Twitter/X에서 나를 팔로우하세요. @DavidGewirtzFacebook(Facebook.com/DavidGewirtz), Instagram(Instagram.com/DavidGewirtz), Bluesky(@DavidGewirtz.com), YouTube(YouTube.com/DavidGewirtzTV).
자세한 정보 확인