ZDNET을 팔로우하세요: 우리를 선호 소스로 추가하세요 Google에서.
ZDNET의 주요 시사점
- Cisco는 DefenseClaw가 에이전트 AI에서 누락된 감독 기능이라고 말합니다.
- DefenseClaw는 일부 에이전트 작업을 자동으로 차단합니다.
- Cisco는 대리인 감독을 제공하는 보안 회사의 혼잡한 분야에 진출합니다.
자동으로 이메일을 확인하거나 항공편을 예약하는 에이전트형 인공 지능은 하룻밤 사이에 센세이션을 불러일으켰으며 상상력을 사로잡았지만 동시에 엄청난 보안 위험을 안겨주었습니다.
엔터프라이즈 소프트웨어 공급업체의 자연스러운 반응은 “좋은” 에이전트를 돕고 “나쁜” 에이전트를 차단하는 것입니다.
그래서 월요일, 네트워킹 및 보안 대기업인 Cisco Systems는 1월에 인기를 끌었던 오픈 소스 OpenClaw 에이전트 AI 프레임워크의 이름을 딴 DefenseClaw를 공개했습니다.
또한: 혼돈의 AI 요원? 새로운 연구에 따르면 봇과 대화하는 봇이 어떻게 옆으로 빠르게 이동할 수 있는지 보여줍니다.
Cisco의 AI 소프트웨어 책임자인 DJ Sampath에 따르면 DefenseClaw는 에이전트 보안을 위한 “운영 계층”으로서 누락된 부분이라고 합니다. 그는 블로그 게시물에서 “발톱을 계속 관리하는” 감독 도구라고 썼습니다. “5분 안에 통제된 발톱이 0이 됩니다.”
DefenseClaw는 3월 27일부터 GitHub에 게시될 것이라고 Sampath는 말했습니다.
발톱을 다스려라
Cisco에 따르면 이번 주 샌프란시스코에서 열리는 연례 RSA 보안 무역 박람회에서 발표된 DefenseClaw는 프로덕션에 들어가는 에이전트 프로젝트의 부족을 해결하기 위한 것이라고 합니다.
Cisco가 최근 실시한 “주요 기업 고객” 대상 설문 조사에 따르면 엔터프라이즈 에이전트 AI의 5%만이 테스트에서 프로덕션으로 전환했습니다.
Sampath는 OpenClaw가 거의 모든 작업에 대해 빠르게 모든 괴짜의 집사가 되고 있다고 강조했습니다. OpenAI는 OpenClaw의 창시자인 Peter Steinberger를 고용했으며 Nvidia는 에이전트 프레임워크의 자체 버전인 NemoClaw를 제공했습니다.
“아내와 저는 이를 아이들의 일정을 계획하는 데 사용합니다. 저는 매일 아침 학교 점심 메뉴를 상기시켜 주는 에이전트 스킬을 구축했습니다.”라고 그는 말했습니다. 그의 요점은 OpenClaw, Nvidia의 오픈 소스 제공 NemoClaw 또는 기타 오픈 소스 프로젝트를 통한 에이전트가 관리되지 않는 풀뿌리 방식으로 빠르게 확장되고 있다는 것입니다.
Sampath 블로그의 하위 텍스트는 다음과 같습니다. Claws are out; 안전하게 생각하는 것이 좋습니다.
(관련 개발 과정에서 Facebook, Instagram, WhatsApp의 소유주인 Meta는 OpenClaw를 최대한 활용했을 때 일어날 수 있는 좋은 점과 나쁜 점을 보여주는 봇 소셜 플랫폼인 Moltbook을 인수하고 있습니다.)
Sampath에 따르면 DefenseClaw는 다양한 도구에 연결하여 사용할 수 있도록 설계되었습니다. 지난 주 GTC 컨퍼런스에서 Nvidia가 공개한 코드 샌드박스 소프트웨어인 OpenShell은 중요하며 Cisco의 스캐닝 도구도 중요하다고 그는 지적했습니다. “그런데 차단 목록은 누가 관리하나요? 새벽 2시에 문제가 생기면 누가 알림을 보나요? 그게 바로 DefenseClaw입니다.”
또한: Nvidia는 OpenClaw에 투자하지만 보안 계층을 추가합니다 – NemoClaw 작동 방식
DefenseClaw는 세 가지 작업을 수행한다고 Sampath는 설명했습니다.
첫째, 실행되기 전에 모든 코드 조각을 검사합니다. “모든 기술, 모든 도구, 모든 플러그인이 클로 환경에 허용되기 전에 클로에 의해 생성된 모든 코드 조각이 스캔됩니다.” 해당 검색 작업은 Cisco의 오픈 소스 기술 스캐너 도구와 같은 여러 개별 도구로 구성됩니다.
둘째, 도구는 런타임 시 에이전트에 들어오고 나가는 모든 메시지를 검사하여 위협을 탐지합니다.
셋째, DefenseClaw는 이메일 서버 계정과 같은 “기술”을 자동으로 차단하여 샌드박스에서 해당 권한을 제거합니다. 이 경우 샌드박스는 Nvidia의 OpenShell일 수 있습니다. Sampath는 자동 작업 방지가 “제안이 아니라 벽”이라고 강조했습니다.
Sampath는 OpenClaw 설치 작업을 먼저 스캔하기 위해 명령줄에서 도구를 실행하는 예를 제시했습니다.
defenceclaw 스킬 설치 커뮤니티/jira-triage
이러한 요청을 통해 DefenseClaw는 “먼저 검색하고, 차단/허용 목록을 확인하고, 매니페스트를 생성한 다음 설치합니다. 아무것도 승인 게이트를 우회하지 않습니다.”
Cisco는 모든 발톱에 대한 기록 모니터링 시스템으로 Splunk 로그 분석 도구를 사용하고 있다고 Sampath는 말했습니다. “모든 발톱은 관찰 가능하게 태어났습니다. 발톱이 온라인 상태가 되는 순간 모든 것이 구조화된 이벤트로 Splunk로 스트리밍됩니다.”
실제로 Cisco는 도구를 자동화된 SOC(보안 운영 센터)와 더욱 유사하게 만들기 위한 몇 가지 추가 Splunk 확장을 발표했습니다.
예를 들어 시스코는 “곧” 알파 버전이 출시될 예정인 안내 응답 에이전트(Guided Response Agent)를 통해 “SOC 팀이 감지 가설에서 생산 단계까지 몇 분 안에 정확하게 진행할 수 있도록 도와줌으로써 팀이 감지 항목을 신속하게 가져오고, 조정하고, 태그를 지정할 수 있도록 해줄 것”이라고 밝혔습니다.
주어진 URL의 평판 등 요청을 프롬프트에서 에이전트에 입력하면 확인해야 할 항목이 좁아진다는 개념입니다.
Splunk SOC(보안 운영 센터) 내의 Cisco Guided Response Agent입니다.
시스코 시스템즈
다각적인 툴킷
DefenseClaw는 Cisco가 월요일에 발표한 에이전트 AI 보안 툴킷의 여러 부분 중 하나입니다. 다른 부분에는 에이전트 신원 확인 및 액세스 제어를 시행하고 생성된 각 에이전트에 제로 트러스트 절차를 적용하기 위한 Cisco Secure Access의 향상된 기능이 포함됩니다.
또한: MIT 연구에 따르면 AI 에이전트는 빠르고 느슨하며 통제 불능입니다.
Cisco는 레드팀의 잠재적 위험, 즉 실제 위협을 시뮬레이션하는 도구를 도입하여 단순한 코드 스캐닝을 넘어서고 있다고 주장했습니다.
새로운 제품인 Cisco AI Defense: Explorer Edition은 “에이전트 워크플로를 강화하는 모델 및 애플리케이션에 대한 다중 회전 적대 테스트를 수행”하고 AI 모델 자체를 검사하여 “즉각적 주입, 탈옥 및 기타 안전하지 않은 출력에 대한 저항을 검증”합니다.
Cisco는 또한 개발 중인 코드에 “정책 시행”을 포함시킬 것이라고 주장하는 에이전트 런타임 SDK를 제공하고 있습니다.
붐비는 들판
Cisco는 매우 혼잡해질 시장에서 DefenseClaw를 통해 영리한 브랜딩을 제공할 수 있는 지원을 받습니다. 거의 모든 기업 공급업체는 프로덕션에서 에이전트를 보호하고 인증하며 잠재적으로 차단할 것을 약속합니다.
여기에는 Palo Alto Networks 및 Zscaler와 같이 제로 트러스트를 처리해 온 전통적인 사이버 보안 회사가 포함됩니다. JFrog 및 GitLab과 같이 코드 스캔을 처리한 DevOps 회사; Dynatrace 및 Datadog과 같이 코드의 개발 시간 및 런타임 감독을 위한 도구를 제공하는 관찰 가능성 회사.
그리고 Anthropic, OpenAI 및 Google이 있으며 모두 코드 스캔 및 관련 작업을 위한 도구를 제공합니다.
또한: AI가 사이버 보안을 쓸모없게 만들까요, 아니면 실리콘 밸리가 다시 조립하고 있을까요?
기업 캠퍼스와 광역 라우팅 및 스위칭 부문에서 압도적인 점유율을 차지하고 있는 Cisco의 엔터프라이즈 네트워킹 통제가 회사가 다른 많은 제품에 비해 우위를 점할 수 있을지 여부는 아직 알 수 없습니다. 또한 기업이 모든 문제를 보안 운영 팀에 맡길 것인지, 아니면 개발자가 처음부터 코드에 좀 더 주의를 기울이도록 강요할 것인지도 아직 확실하지 않습니다.
일부 기업은 손을 내밀고 “발톱”을 완전히 금지할 수도 있습니다.