중국 AI 스타트업 Moonshot AI는 최신 인공 지능 모델의 해킹 기능을 의도적으로 제한하여 업계의 딜레마가 커지고 있음을 강조합니다. 기업은 사이버 공격을 더 쉽게 수행하지 않고 어떻게 AI를 더욱 강력하게 만들 수 있습니까?
이 회사는 10월 24일 Kimi K3.1 Pro를 출시하면서 약 3조 개의 매개변수를 갖춘 뛰어난 성능의 개방형 모델이라고 설명했습니다. 전적으로 공급자의 서버를 통해 작동하는 기존 AI 서비스와 달리 개방형 모델을 사용하면 개발자가 기본 모델 파일을 다운로드하여 자체 시스템에서 실행하고 작동 방식을 수정할 수 있습니다.
Moonshot은 일반적인 코딩 기능을 유지하면서 공격적인 사이버 작전을 수행하는 능력을 줄이기 위해 모델의 훈련 데이터 세트와 강화 학습 환경에서 사이버 관련 데이터를 제거했다고 밝혔습니다. 회사는 11월 4일에 모델의 가중치를 출시하여 더 넓은 개발자 커뮤니티에 공개할 계획입니다.
Moonshot은 코딩을 희생하지 않고도 해킹 능력을 줄입니다.
Moonshot의 내부 테스트에 따르면 보호 조치가 측정 가능한 차이를 가져왔다는 것을 알 수 있습니다. Kimi K3.1 Pro는 통제된 환경에서 소프트웨어 취약점을 찾아 악용하는 회사의 사이버 보안 벤치마크에서 81%를 기록했습니다. 위험 감소 조치가 없는 유사한 버전은 90.5%를 기록했습니다.
이는 보고된 점수가 9.5% 포인트 하락했음을 나타냅니다. 하지만 결과가 독립적으로 검증되지는 않았으며, 여전히 이전 모델보다 성능이 뛰어난 것으로 알려졌습니다.
동일한 AI 기능을 방어와 공격 모두에 사용할 수 있기 때문에 구별이 중요합니다. 보안팀은 AI를 사용하여 범죄자가 소프트웨어의 약점을 악용하기 전에 이를 식별할 수 있습니다. 한편 공격자는 코드를 작성하고, 소프트웨어 도구를 작동하고, 다단계 작업을 완료하여 공격의 일부를 자동화하는 모델을 사용할 수 있습니다.
Moonshot은 개방형 AI가 조직이 방치되거나 오래된 소프트웨어를 검사하고 보호하는 데 도움이 될 수 있다고 주장합니다. 그러나 모델 파일이 널리 배포되면 원래 개발자는 해당 파일을 사용하는 사람과 보호 조치가 유효한지 여부에 대한 통제력이 약해집니다.
AI 보안 문제가 글로벌 정책 이슈로 대두되고 있다
Moonshot의 결정은 정부와 기술 회사가 AI의 능력이 점점 더 높아져 정교한 사이버 공격을 더 저렴하고 쉽게 실행할 수 있다고 우려하는 가운데 나온 것입니다. 중국은 또한 AI 기반 악성 코드 생성 기술과 특정 AI 지원 취약성 발견 도구를 대상으로 하는 수출 통제를 제안했습니다. 제안은 여전히 대중의 의견을 수렴해야 합니다.
기업과 일반 사용자의 경우 이해관계는 개별 컴퓨터 이상으로 확장됩니다. 공격이 더욱 자동화되면 개인 정보, 금융 시스템 및 중요한 인프라를 보호하는 조직에 대한 부담이 가중될 수 있습니다. 동시에 AI 보안 연구를 너무 공격적으로 제한하면 취약점이 발견되지 않을 수 있습니다.
Kimi K3.1 Pro는 또한 백만 개의 토큰 컨텍스트 창을 갖추고 있어 한 번에 많은 양의 정보를 처리할 수 있습니다. Moonshot은 표준 모델보다 2~3배 빠르게 실행되는 Highspeed 버전을 출시했습니다.
다음 주요 테스트는 Moonshot이 11월 4일에 모델 가중치를 출시할 때 이루어질 것입니다. 그러면 개발자와 보안 연구원은 해당 기능을 검사할 수 있는 더 많은 액세스를 갖게 될 것이며, 업계는 다음과 같은 어려운 질문에 직면하게 될 것입니다. 강력한 AI 모델을 독립적으로 사용할 수 있게 되면 보호 조치가 계속 유효할 수 있습니까?
관련 보도:
이 주제에 대해 더 알고 싶다면 아래를 참고하세요