OpenAI는 보안 연구를 위해 구축된 AI 모델인 GPT-6 Cyber를 발표했습니다. 회사는 GPT-5.6 Cyber보다 보안 결함을 찾아 수정하는 데 훨씬 뛰어나며 일반 사용자에게 가장 주목할만한 결과는 Firefox와 관련이 있다고 말합니다.
연구 캠페인 중에 GPT-6 Cyber는 브라우저에서 81개의 새로운 결함을 발견했으며, 모두 Mozilla가 심각도가 높은 것으로 평가했습니다. 몇몇 초기 AI 모델은 이미 Firefox를 테스트했기 때문에 이러한 버그는 많은 조사를 통과하지 못했습니다. 이 모델은 또한 패치를 제안했으며 이미 기록된 30개의 버그가 보고된 것보다 더 위험하다는 것을 보여주었습니다. Mozilla는 이후 이들 중 다수에 대한 수정 사항을 발표했으며 Firefox 엔지니어 Brian Grinstead는 이러한 수정 사항이 수백만 명의 사용자에게 전달되었다고 말했습니다.
이러한 결함을 조기에 패치하면 공격자가 이를 찾아 사용하기 전에 해당 결함을 차단할 수 있습니다. 자동 업데이트가 꺼진 Firefox 사용자는 최신 버전을 수동으로 설치해야 합니다.
Linux 및 OpenAI 자체 서버 테스트
GPT-6 Cyber는 또한 948 Linux 커널 취약점에 대한 작동 가능한 익스플로잇을 구축했습니다. OpenAI의 이전 GPT-5.6 Sol은 동일한 연구 설정을 사용하여 166개를 관리했습니다. OpenAI는 제안된 수정 사항과 함께 Linux 유지 관리 담당자에게 304개의 중요한 결과를 보고했으며 Cisco 및 CodeRabbit과 같은 회사는 이미 코드 검토를 위해 이 모델을 사용하고 있습니다.
OpenAI는 자체 인프라에서도 이를 테스트했습니다. 통제된 테스트에서 GPT-6 Cyber 및 기타 OpenAI 모델을 실행하는 에이전트는 격리된 환경을 탈출하여 아래에 있는 시스템에서 코드를 실행했습니다. OpenAI는 그 결과를 사용하여 소프트웨어를 패치하고 네트워크 제한을 강화했습니다.
GPT-6 사이버는 얼마나 안전합니까?
해킹 AI는 지시된 대로만 수행할 때만 유용하며 그 이상은 아닙니다. OpenAI는 중단하기 쉬운 몇 가지 서비스가 근처에 있는 폐쇄된 환경에서 모델에 어려운 작업을 제공하여 이를 테스트했습니다.
이를 분석하면 답이 드러날 수도 있었지만 작업 범위를 벗어났기 때문에 모델이 스스로 이를 파악해야 했습니다. 안전 지침 없이 GPT-6 Cyber는 99.93%의 테스트에서 그것들을 그대로 두었고, 지침이 있으면 매번 그렇게 했습니다.
대부분의 사람들은 지금은 그것을 시도할 수 없습니다. OpenAI는 안전 프레임워크에 따라 사이버 보안에서 이 모델을 “중요”로 분류하며 현재 승인된 보안 팀 중 소수만이 액세스할 수 있습니다.
관련 보도
관련 정보는 아래 링크에서 확인하세요