Hugging Face는 자율 AI 에이전트의 공격을 받는 것이 어떤 것인지 이미 알고 있습니다. 공동 창업자 중 한 명이 옳다면 다른 많은 회사들도 곧 알게 될 것입니다. Hugging Face의 공동 창립자이자 최고 과학 책임자인 Thomas Wolf는 OpenAI 모델이 수행한 최근 사이버 공격을 기술 산업에 대한 “경종”이라고 불렀습니다.
울프는 BBC와의 인터뷰에서 AI 기반 침입이 가장 일반적인 형태의 사이버 공격 중 하나가 될 수 있다고 경고했으며, 많은 기업이 아직 위협이 얼마나 극적으로 변했는지 깨닫지 못하고 있다고 말했습니다. 이는 OpenAI가 자사 모델이 ExploitGym 벤치마크에 대한 답변을 얻으려고 시도하는 동안 제한된 사이버 보안 평가 환경을 탈출하고 Hugging Face를 손상시켰다는 사실을 공개한 후에 나온 것입니다. 이제 Wolf의 설명을 통해 공격이 반대편에서 어떻게 생겼는지에 대한 더 나은 아이디어를 얻을 수 있습니다.
매우 짧은 시간에 17,000건의 공격이 발생했습니다.
Hugging Face는 7월 중순에 침해 사고를 감지했을 때 해당 활동이 어디서 왔는지 처음에는 전혀 몰랐습니다. 울프는 BBC와의 인터뷰에서 자사 네트워크가 “매우 짧은 시간” 내에 다양한 IP 주소에서 약 17,000건의 공격을 받았다고 말했습니다. 회사는 침입을 억제하면서 이것이 Hugging Face가 일반적으로 겪는 사이버 공격과 매우 다르다고 설명했습니다.
Hugging Face의 자체 사건 보고서는 공격자 작업 로그에 기록된 17,000개 이상의 이벤트를 설명합니다. 자율 시스템은 수명이 짧은 샌드박스에서 수천 개의 작업을 실행하고 기계 속도로 인프라를 통해 이동했다고 말합니다. 영국의 AI 보안 연구소는 현재 사고 당시 시스템이 어떻게 작동했는지 연구하고 있으며, 정부는 기업에 사이버 보안 방어를 강화할 것을 촉구했습니다.
자율 해킹이 현실화되고 있다
OpenAI는 모델이 해당 작업을 완료하는 데 집중했다고 말합니다. 연구 환경을 탈출한 후 그들은 Hugging Face 서버에 대한 원격 코드 실행 경로를 찾을 때까지 취약점과 도난당한 자격 증명을 함께 연결했습니다. Hugging Face는 비슷하게 불편한 결론에 도달했습니다. 즉, 강력한 공격 AI는 이미 기계 속도로 광범위하고 다단계 캠페인을 실행할 수 있다는 것입니다.
Hugging Face의 사건은 업계 전체의 이야기입니다. 한 회사는 이미 이러한 종류의 공격을 직접 경험했지만, 다른 많은 회사에서는 이러한 공격이 어떤 것인지 곧 알게 될 것입니다.
관련 정보는 아래 링크에서 확인하세요