ZDNET을 팔로우하세요: 우리를 선호 소스로 추가하세요 Google에서.
ZDNET의 주요 시사점
- Nvidia의 새로운 오픈 소스 동맹은 보안 솔루션의 민주화를 목표로 합니다.
- AI는 AI 기반 공격에 맞서기 위한 최고의 도구인 경우가 많습니다.
- 에이전트 하네스는 더 나은 보안을 위한 핵심 구성 요소입니다.
AI 에이전트는 올해 꾸준한 보안 사고의 배후에 있습니다. Nvidia는 오픈 소스 소프트웨어를 기반으로 구축된 새로운 파트너십이 답이라고 생각합니다.
월요일, 회사는 “개방형 기술을 사용하여 취약점을 해결하고 공개하기 위해 노력할 것”이라고 밝힌 Open Secure AI Alliance를 발표했습니다. 이번 발표는 고성능 Mythos 5 모델을 중심으로 주도한 보안 동맹인 Anthropic의 Project Glasswing에 대한 대응입니다. Nvidia의 이니셔티브는 일부 주요 회사의 독점 모델에 대한 액세스를 확보하는 대신 오픈 소스 소프트웨어에 중점을 두어 AI 보안 도구를 더욱 민주화하는 것을 목표로 합니다.
또한: OpenAI의 공격 에이전트는 예상했던 것보다 더 가차 없이 지시된 대로 정확하게 수행했습니다.
Nvidia는 OpenAI 에이전트가 테스트 환경을 탈출하여 Hugging Face에 침투하여 자격 증명을 훔치고 OpenAI가 말한 “전례 없는” 결과를 입증한 지난주 Hugging Face 사건으로 인해 Alliance가 자극을 받았다고 말했습니다. 엔비디아는 발표에서 AI 도구 자체가 AI 공격을 치료하는 효과적인 방법이 되었기 때문에 오픈 소스 보안 도구는 신뢰할 수 있는 공공재가 되어야 한다고 주장했습니다.
Nvidia는 “공격자와 방어자를 구분할 수 없는 폐쇄형 AI 도구가 필수 포렌식 분석을 차단했을 때 Hugging Face는 자체 인프라에서 개방형 GLM 5.2 모델을 실행하여 17,000개 이상의 행동을 분석하고 침입을 억제했습니다”라고 말했습니다.
Cloudflare, CrowdStrike, Adobe, IBM, Linux Foundation, Microsoft 및 전 OpenAI 임원 Mira Murati의 스타트업 Thinking Machines Lab이 Alliance의 첫 번째 참가자 중 하나입니다. 엔비디아는 이러한 노력에 대한 기여에는 개방형 모델, 가중치 및 데이터뿐만 아니라 LLM이 자율적으로 행동하도록 지원하여 에이전트로 전환하는 인프라인 에이전트 하네스에 대한 새로운 연구가 포함될 것이라고 밝혔습니다.
오픈소스의 보안 사례
발표에서 Nvidia는 오픈 소스 AI가 더 쉽게 탈취될 수 있다는 지배적인 주장에 맞서 보안 사고에 대한 솔루션으로 개방형 모델(폐쇄형 모델과 함께)을 구체적으로 주장했습니다.
또한: AI가 어떻게 갑자기 오픈 소스 개발자에게 훨씬 더 유용해졌는가?
일부에서는 개방형 모델이 사이버 공격에 오용되거나 가드레일을 제거하도록 수정될 수 있기 때문에 본질적으로 덜 안전하다고 주장합니다. “이러한 위험은 실제적이지만 폐쇄형 시스템에서는 사라지지 않으며 단순히 가중치를 유지한다고 해서 공격자가 강력한 AI를 찾거나 이용하는 것을 막을 수는 없습니다.”
AI의 경우 오픈 소스는 오픈 웨이트를 의미합니다. 즉, 모델의 최종 매개변수와 편향은 공개됩니다(Anthropic 또는 OpenAI와 같이 폐쇄적이지 않음). 모델의 출력을 형성하는 해당 정보를 통해 개발자는 자신의 필요에 맞게 모델을 미세 조정할 수 있습니다.
또한: ‘은행 금고에 청사진을 건네주는 것과 같다’: AI가 한 기업이 오픈 소스를 포기하게 만든 이유
그러나 코드와 교육 데이터 세트가 공개적으로 액세스할 수 있는 모델은 진정한 오픈 소스입니다. 즉, 누구나 모델의 구성 요소에 액세스하고 작동 방식을 더 철저하게 이해할 수 있다는 의미입니다. Anthropic 및 OpenAI와 같은 회사에 수익성이 높은 강력한 독점 모델이 있을 수 있다는 점을 고려하면 모델을 완전히 오픈 소스화하는 데 대한 인센티브는 거의 없습니다.
오픈소스 친화적 정책에 대한 요구
Nvidia는 또한 오픈 소스 AI의 전반적인 특성이 향후 사이버 보안 노력에 방해가 될 수 있다고 지적했습니다.
또한: Moonshot의 오픈 소스 Kimi K3 모델은 이 벤치마크에서 Anthropic의 Fable 5를 능가합니다.
회사는 발표에서 “AI 및 사이버 보안 정책에서 개방형 모델, 하니스, 보안 도구를 부채가 아닌 방어 자산으로 인식하는 것이 중요할 것”이라고 밝혔습니다. “개방형 프론티어 AI 시스템에 대한 전면적 제한은 방어 능력을 약화시키고 소수의 폐쇄형 제공업체에 권력, 의존성, 취약성이 집중될 위험이 있습니다.”
트럼프 행정부는 특히 보안 위험을 이유로 미국 연구실과 경쟁하는 문슈트(Moonshoot), 딥식(DeepSeek) 등 중국 스타트업의 개방형 모델에 대해 비판적이다. 이러한 우려는 타당하지만 중국이 가장 정교한 AI 시스템 구축에서 미국을 앞지르게 될 것이라는 우려도 있습니다.
규제 기관에 대한 Nvidia의 요청은 또한 보안 문제에 관해 Anthropic 및 OpenAI의 모델 출시 일정에 대한 행정부의 참여가 증가하고 있음을 다루고 있습니다. 정부는 Fable 5 및 Mythos 5 리콜의 중심이었으며 OpenAI에게 최신 모델인 GPT-5.6 출시를 사전 승인했습니다.
완벽 가이드 보기