ZDNET을 팔로우하세요: 우리를 선호 소스로 추가하세요 Google에서.
ZDNET의 주요 시사점
- Hugging Face는 내부 인프라와 자격 증명을 손상시킨 사이버 공격을 공개합니다.
- 자율 AI 에이전트가 침해의 원인으로 지목되었습니다.
- 그러면 AI가 침입을 감지했습니다. 하지만 AI 기반 방어가 향후 공격을 막을 만큼 충분할까요?
Hugging Face는 생산 플랫폼과 자격 증명을 노출시킨 알려지지 않은 에이전트 AI의 작업으로 추정되는 보안 사고를 공개했습니다. 파트너 또는 고객 데이터가 영향을 받았는지 여부는 알려지지 않았습니다.
허깅페이스란?
Hugging Face는 “머신러닝 커뮤니티가 모델, 데이터 세트 및 애플리케이션에 대해 협업하는 곳”이라고 설명하는 오픈 소스 저장소이자 커뮤니티 플랫폼입니다.
또한: AI 시대에 비즈니스에서 실수할 수 없는 5가지 보안 전술과 이것이 중요한 이유
AI 및 대규모 언어 모델(LLM)에 관심이 있는 사람들을 위한 다양한 리소스인 이 플랫폼은 데이터세트, 애플리케이션, 모델, 최신 AI 창작물은 물론 협업 기회도 제공합니다.
데이터 세트가 재앙으로 변했습니다.
Hugging Face는 7월 16일 발표된 보안 권고에서 제한된 내부 데이터 세트와 플랫폼 서비스에서 사용되는 여러 자격 증명에 대한 무단 액세스를 감지했다고 밝혔습니다.
공격은 Hugging Face 데이터 처리 파이프라인에서 시작되었습니다. 공격자가 배포한 데이터 세트에는 두 가지 코드 실행 경로(원격 코드 데이터 세트 로더와 데이터 세트 구성의 템플릿 삽입)를 악용하여 처리 작업자에서 악성 코드를 실행하는 기능이 포함되어 있었습니다.
이를 통해 공격자는 자신의 권한을 노드 수준 액세스로 승격하고, 프로덕션 파이프라인에 침투하고, 네트워크를 통해 이동하고, 클라우드 및 클러스터 자격 증명을 훔칠 수 있었습니다.
또한: 이 완전 에이전트 랜섬웨어 공격이 연구자들에게 악몽을 안겨주는 이유
이것이 전통적인 사이버 범죄자의 작품이라고 상상할 수 있습니다. 그러나 Hugging Face는 실제로 “공공 서비스에서 자체 마이그레이션 명령 및 제어를 수행하면서 수명이 짧은 샌드박스 떼에서 수천 개의 개별 작업”을 실행한 것은 알려지지 않은 에이전트 AI였다고 말합니다.
이 자동 공격과 관련된 이벤트가 17,000개 이상 기록되었습니다.
Hugging Face는 “이는 업계가 예측해 온 ‘에이전트 공격자’ 시나리오와 일치합니다.”라고 덧붙였습니다.
적어도 현 단계에서는 조직에서 공개 및 사용자 대면 모델, Spaces 또는 소프트웨어 공급망을 조작했다는 증거를 찾지 못했습니다.
HuggingFace의 AI 방어 및 대응
안타깝게도 데이터 침해, 정보 유출, 보안 사고는 이제 매우 흔해졌습니다. 그러나 Hugging Face 사건을 돋보이게 하는 것은 AI에 AI의 결합입니다.
Hugging Face에 따르면 에이전트 AI가 공격을 시작한 것으로 비난을 받았지만 사건을 “대부분 탐지”한 것도 AI였습니다.
Hugging Face의 자체 LLM 도구는 보안 이벤트를 표시하고 공격 로그도 분석하여 타임라인 재구성, 손상 지표, 노출 및 도난당한 자격 증명 지도로 이어졌습니다. 팀에 따르면 “보통 며칠이 걸리던” 작업은 단 몇 시간 밖에 걸리지 않았습니다.
또한: 이 4가지 중요한 AI 취약점은 방어자가 대응할 수 있는 것보다 더 빠르게 악용되고 있습니다.
“자율적인 AI 기반 공격 도구는 더 이상 이론적인 것이 아닙니다.”라고 조직은 지적했습니다. “광범위하고 인내심 있는 다단계 캠페인을 실행하는 데 드는 비용을 낮추고 기계 속도로 운영됩니다. 이제 온라인 플랫폼을 방어한다는 것은 데이터와 모델 표면을 일류 공격 표면으로 취급하고 방어에 AI를 사용하여 보조를 맞추는 것을 의미합니다.”
우리는 앞으로 몇 달, 몇 년 안에 AI 기반 공격과 방어의 진화를 보게 될 것입니다. 그동안 Hugging Face는 초기 액세스를 허용하는 루트 취약점을 수정했습니다. 영향을 받은 클러스터에서 공격자의 모든 흔적을 제거하고, 손상된 노드를 재구축하고, 비밀을 취소 및 순환하고, 클러스터 전체에 추가 가드레일과 더욱 엄격한 허용 제어를 배포했습니다.
Hugging Face 사용자가 다음에 해야 할 일
Hugging Face는 파트너 또는 고객 데이터가 침해로 인해 영향을 받았는지 여부를 평가하고 영향을 받은 당사자에게 연락할 것입니다.
Hugging Face는 어떤 데이터 세트, 파트너 및 사용자가 영향을 받는지 정확히 알 때까지 사용자 계정과 정보를 안전하게 유지하기 위한 예방 조치를 권장합니다.
또한: AI 에이전트는 빠르고, 느슨하며, 통제 불능이라고 MIT 연구 결과가 나왔습니다.
사용자는 액세스 토큰을 교체하고 계정에서 비정상적이거나 알 수 없거나 의심스러운 활동의 징후가 있는지 주의 깊게 감시해야 합니다. Hugging Face 사용자가 이번 침해로 인해 영향을 받았다고 생각하는 경우 다음 주소로 해당 조직에 직접 연락해야 합니다. [email protected].
공식 정보 바로가기