구글은 AI가 사이버 공격을 위해 산업 규모로 남용되고 있다고 밝혔습니다.

수년 동안 보안 전문가들은 AI가 결국 해커들에게 위험하고 새로운 우위를 제공할 것이라고 경고했습니다. 그 순간이 왔습니다.

Google의 위협 정보 그룹(Threat Intelligence Group)은 범죄 해킹 그룹이 AI 모델을 사용하여 제로데이 취약점을 발견하고 대규모 사이버 공격을 거의 감행했음을 확인하는 보고서를 발표했습니다. 구글은 해커들이 공격을 대규모로 전개하기 전에 공격을 포착해 중지했다고 밝혔습니다.

정확히 무슨 일이 일어났고, 얼마나 심각했나요?

이 공격은 기업이 서버, 직원 계정 및 보안 설정을 원격으로 관리하는 데 사용하는 인기 있는 오픈 소스 웹 기반 시스템 관리 도구를 표적으로 삼았습니다.

탐지되지 않았다면 해커가 계정을 보호하는 마지막 방어선인 2단계 인증을 우회할 수 있었을 것입니다.

공격자는 한 번에 여러 조직을 대상으로 하는 대규모 공격 이벤트에 이를 배포할 계획을 세웠습니다. Google은 손상이 발생하기 전에 패치가 발행되도록 제때에 도구 개발자에게 알렸습니다.

회사는 해킹 그룹, 표적이 된 특정 소프트웨어, 사용된 AI 모델의 이름을 밝히기를 거부했지만 그것이 구글의 제미니가 아니라는 것을 확인했습니다.

구글에 따르면, 중국과 북한과 연계된 단체들도 취약점 발견을 위해 OpenClaw와 같은 AI 도구를 사용하는 데 상당한 관심을 보였습니다.

AI가 사이버보안의 가장 큰 약점이 되고 있는가?

구글의 공격은 놀랍지만 고립된 공격과는 거리가 멀다. Georgia Tech 연구원들은 최근 자율주행차의 AI 내부에 자신을 내장하고 실행 시 99%의 시간 동안 작동하는 숨겨진 백도어인 VillainNet을 발견했습니다.

한편, 한국 연구팀은 시스템 접속이 필요 없이 벽을 통과하는 소형 안테나를 사용해 AI 모델을 원격으로 역설계할 수 있음을 보여주었다. 최근 Discord 사용자 그룹이 액세스 제어를 우회하여 제3자 공급업체 환경을 통해 Anthropic의 제한된 Mythos 모델에 접근했습니다.

방어 측면에서는 적대적인 입력에 노출되었을 때 언어 모델이 어떻게 작동하는지 스트레스 테스트하기 위해 AI 침투 테스트라는 성장하는 분야가 등장하고 있지만 이 분야는 아직 초기 단계입니다.