ZDNET을 팔로우하세요: 우리를 선호 소스로 추가하세요 Google에서.
ZDNET의 주요 시사점
- IT 관리자 중 23%만이 에이전트를 완벽하게 제어할 수 있습니다.
- 대다수는 향후 6개월 이내에 보안 가드레일이 부적절할 것이라고 말했습니다.
- 상담원 관리는 ‘최고 수준의 규율’이 되어야 합니다.
매우 쉽게 시작할 수 있는 AI 에이전트가 모든 사람의 통제를 벗어나 확산되고 있습니다. 그리고 이는 그들이 제공하는 혜택을 약화시킬 수 있는 문제가 되고 있습니다.
이는 Rubrik ZeroLabs가 최근 발표한 설문조사의 결론입니다. IT 관리자 4명 중 1명 미만(23%)이 조직 내의 에이전트에 대해 “완전한” 통제권을 갖고 있다고 답했습니다. 설상가상으로 이러한 에이전트가 반드시 원하는 생산성을 제공하는 것은 아닙니다. 대다수(81%)는 자신의 권한에 있는 상담원이 워크플로 개선을 통해 절약하려고 했던 것보다 수동 감사 및 모니터링에 더 많은 시간이 필요하다고 보고했습니다. 설문 조사에 따르면 보안도 뛰어난 수준에 미치지 못합니다.
또한: 에이전트 AI를 확장하려면 강력한 데이터 기반이 필요합니다. 먼저 수행해야 할 4단계
AI 에이전트를 만드는 것은 쉽고 문제는 “사용자가 종종 VPN을 끄거나 보안 제어를 회피하여 에이전트를 보조자 역할을 하게 하는 것”이라고 보고서 작성자는 말합니다. 그 결과, 내부적으로나 공급업체에서 출시한 승인되지 않은 AI 애플리케이션이 대량으로 발생하게 되었습니다.
에이전트 확장은 초기 클라우드 채택과 유사합니다.
업계 전반에 걸쳐 에이전트의 과잉 공급이 이제 만연한 문제가 되면서 에이전트가 통제 범위를 벗어나기 시작했다는 우려가 있습니다. Microsoft의 수석 제품 관리자인 Kriti Faujdar는 “우리는 이미 팀이 다양한 프레임워크와 공급업체를 사용하여 에이전트를 독립적으로 가동하는 초기 클라우드 채택과 유사한 패턴을 보고 있습니다.”라고 말했습니다. “이로 인해 단편화, 일관성 없는 거버넌스, 숨겨진 보안 허점이 발생합니다.”
ZeroLabs 설문조사 작성자는 에이전트 사이에서 인지된 통제와 운영 현실 사이의 단절을 발견했습니다. 거의 모든 IT 관리자(86%)는 에이전트 확산이 내년에 보안 가드레일을 능가할 것으로 예상합니다. 절반 이상(52%)이 향후 6개월 이내에 이러한 일이 발생할 것으로 예상합니다. 또한 거의 모든 응답자는 의도하지 않은 에이전트 작업을 롤백하는 데 필요한 “실행 취소” 기능이 부족하다고 밝혔습니다.
또한: 신뢰 문제를 일으키지 않고 비즈니스를 위한 더 나은 AI 에이전트를 구축하는 방법
엔터프라이즈 시스템 전반에 걸쳐 에이전트가 급증함에 따라 업계 관찰자들은 그러한 확산을 관리하고 억제하기가 너무 어려워지고 있다고 우려하고 있습니다. Coalition for Secure AI의 수석 엔지니어인 Nik Kale은 “API 액세스 권한이 있는 모든 팀은 오후에 에이전트를 가동할 수 있습니다.”라고 말했습니다. “대기업에 이를 곱하면 권한이 중복되고 일관된 ID 모델이 없으며 전체 인벤토리를 알려줄 수 있는 사람이 수백 명에 달합니다.”
에이전트 관찰 가능성은 매우 까다로울 수 있으며 ZeroLabs 작성자는 보안 시행 지점이 강조된 에이전트 작업 체인을 이해하기 위한 원격 측정의 필요성이 증가하고 있음을 지적합니다.
배포 후 질문 5개
에이전트 생존 가능성을 추적한다는 것은 ZeroLabs 연구 작성자가 확인한 대로 배포 후 다음 질문에 답하는 것을 의미합니다.
- 에이전트는 무엇을 했나요? 추적이라고 불리는 이것은 발생한 일을 정확하게 재생하거나 적어도 재구성하는 기능입니다.
- 왜 그랬나요? 상담원은 어떤 조치를 취하게 된 원인이 무엇이라고 생각했나요?
- 무엇이 닿았나요? 감사 추적에는 상담원이 상호작용한 모든 데이터 또는 도구의 포괄적인 목록이 포함되어야 합니다.
- 성공했고, 안전하게, 그리고 어떤 대가를 치르게 되었나요? 조직에서는 ROI를 정확하게 이해하기 위해 작업 성공률, 인용 결과, 정책 위반 또는 인적 에스컬레이션을 어떻게 측정하고 있나요?
- 어디서 실패했나요? 문제를 해결하기 위해 실패를 재현할 수 있습니까?
이는 현재 답변되지 않은 질문이라고 보고서는 말합니다. 결과적으로 많은 관리자와 조직은 “허용 가능한 에이전트 동작 정의, 에이전트가 액세스할 수 있는 리소스 및 도구 감사, 인간 루프 실행을 위한 정책 생성 또는 에이전트 작업 롤백”을 수행할 수 없습니다.
속도와 거버넌스 간의 균형
Faujdar는 에이전트가 자율적으로 행동하기 때문에 기존 소프트웨어보다 더 큰 위험을 초래한다고 말했습니다. 오늘날의 환경에서는 속도와 거버넌스 사이에 균형이 있습니다. “조직은 빠르게 움직이기를 원하지만 명확한 가드레일이 없으면 신뢰, 감사 또는 확장이 어려운 시스템을 만들 위험이 있습니다. 상담원 관리를 나중에 생각하는 것이 아니라 일류 규율로 다루는 사람들이 승자가 될 것입니다.”
에이전트를 최신 상태로 유지하는 것도 어려운 과제입니다. 기본 모델이 표류하는 경향이 있기 때문입니다. Liberty91의 설립자이자 CEO인 Renze Jongman은 “1분기에 인증한 에이전트는 플랫폼의 잘못이 아니므로 3분기에는 행동이 다릅니다.”라고 말했습니다. “귀하의 거버넌스 모델은 기본이 움직이는 것을 가정해야 합니다.”
또한: 데이터 리더 5명에게 AI를 사용하여 자동화하고 통합의 악몽을 종식시키는 방법에 대해 물었습니다.
현 시점에서 “팀이 스스로 구축한 에이전트를 포함하여 거버넌스 경계 외부에서 작동하는 에이전트가 너무 많습니다”라고 Kale은 말했습니다. Kale은 에이전트 스택의 오케스트레이션 레이어를 모델 및 거버넌스 레이어와 별도로 유지하라고 조언합니다. “세 가지 모두가 한 공급업체의 플랫폼 내에 있다면 단일 계약으로 에이전트의 두뇌, 권한 및 책임 체인을 넘겨준 것입니다.”
Kale은 상담원 감독에는 “가장 빠른 배송을 원하는 팀뿐만 아니라 보안, 아키텍처 및 결과를 소유하는 사업부가 포함되어야 한다”고 덧붙였습니다.
완벽 가이드 보기