ZDNET을 팔로우하세요: 우리를 선호 소스로 추가하세요 Google에서.
ZDNET의 주요 시사점
- AI는 생산성을 높이고 데이터 액세스를 향상시킬 수 있습니다.
- 기술 리더들은 데이터 문제로 인해 출시를 중단해야 했습니다.
- AI 프롬프트를 통해 오랫동안 잊혀졌던 통찰력이 등장합니다.
에이전트 및 생성 AI는 기업 전문가에게 정보와 통찰력을 제공했습니다. 그러나 추세가 너무 좋은 것일 수 있다는 증거가 있습니다. 최근 컨퍼런스에서 엔터프라이즈 AI 출시의 베테랑들은 AI에 정면으로 뛰어드는 것을 고려하는 전문가들에게 경고의 말을 했습니다.
이러한 전문가들이 직면한 문제로 인해 경영진은 내부에 노출될 수 있는 정보를 재평가하면서 직원 생산성을 높이기 위한 AI 출시가 일시적으로 중단되었습니다. 동시에 최근 뉴욕에서 열린 Veeam 컨퍼런스에서 패널로 연설한 경영진은 AI가 문제의 원인이 아니라는 점을 강조했습니다. 두 패널리스트의 조직 모두 방대한 양의 데이터를 축적해 왔으며, 한 곳에서는 새로운 거버넌스 구조가 필요했습니다.
또한: IT 전문가의 96%가 현재 AI를 사용하고 있습니다. 상위 7개 에이전트 애플리케이션 및 가장 큰 구현 장애물
Fidelity Investments의 수석 부사장인 Steve MacIntyre는 직원이 40만 명인 회사에서 SharePoint 사이트나 네트워크 연결 스토리지 등 조직의 구석구석에 오랫동안 감춰져 있던 데이터가 갑자기 AI 프롬프트를 통해 표면화되는 것을 목격했다고 설명했습니다. 그는 “AI 문제가 아니었다”고 말했다. “물건을 빠르게 찾아주는 AI의 생산성과 능력이었습니다.”
EY의 엔터프라이즈 기술 수석 설계자인 Wim Geurden은 자신의 회사가 직면한 과제를 독립 계열사로 구성된 글로벌 네트워크 전체에서 데이터 소유권을 고정하는 것이라고 설명했습니다. 이 데이터는 AI 엔진을 통해서도 표면화되었습니다. “대기업 검색이 시작되자 사람들이 가는 곳에 온갖 종류의 물건이 나타나기 시작했습니다.”라고 그는 말했습니다.
“EY Global은 어떤 데이터도 소유하지 않습니다. 모든 회원사는 자체 데이터를 소유합니다. 이것이 첫 번째 질문이 제기된 곳입니다. 이게 다 무엇입니까? SharePoint 사이트는 몇 개입니까? 우리는 여러 페타바이트의 데이터를 가지고 있었는데 그것은 Wild West였습니다. 이러한 SharePoint 사이트에는 수명 주기 관리가 없었고 그 중 절반에는 소유자가 없었습니다. 언제 마지막으로 액세스했는지 알 수 없었습니다.”
또한: 전문가 중 51%는 AI 작업이 생산성을 저하시킨다고 말합니다. 2단계로 중단하세요
Fidelity에서는 방대한 PowerPoint 및 PDF 보고서 라이브러리에서 정보가 나오고 있었습니다. MacIntyre는 “우리는 PDF와 같은 Fidelity의 전체 역사와 수십 년간의 연구 노트를 보유하고 있습니다.”라고 말했습니다. “우리는 Copilot에 대한 라이선스 몇 개를 제공했고 이틀 후 즉시 법무팀이 나에게 와서 AI 문제가 있다고 말했습니다. 우리 팀 중 한 명이 무언가를 찾기 위해 검색을 했고 AI는 몇 년 전에 SharePoint에 있던 모든 PowerPoint를 가지고 돌아왔습니다.”
AI는 “빠르게 실행되는 엄청난 검색 엔진”이라고 MacIntyre는 덧붙였습니다. “갑자기 액세스할 수 있는 모든 것을 검색하고 의미 있는 방식으로 우리에게 표면화합니다. 모두가 AI 문제가 있다고 생각했지만 결과는 데이터 보안에 문제가 있다는 것을 보여주었습니다. 우리가 신경 쓰지 않는다고 생각했던 모든 데이터, 즉 구조화되지 않은 데이터가 모두 있다는 것을 즉시 깨달았을 때 이 문제가 발생했습니다. 그리고 LLM이 등장했고 갑자기 모든 데이터가 금이 되었습니다.”
가드레일 설치
EY에서는 방대한 데이터 저장소의 문이 AI에 개방되면서 “데이터를 소유한 사람을 찾는 것”이 우선순위였다고 Geurden은 말했습니다. “두 번째로 우리가 한 일은 모든 것을 차단하는 것이었습니다.” 사용자는 라이선스가 있는 경우에만 Copilot 도구에 액세스할 수 있습니다.
또한: 비즈니스 실패의 위험 없이 성과를 거두는 에이전트적 AI 전략 구축
데이터 소유권 확인 프로세스에는 EY 기업 전체에서 발견된 데이터를 식별하고 라벨링하는 작업이 포함되었습니다. Geurden은 계속해서 말했습니다. 예를 들어 라벨에는 ‘기밀’ 또는 ‘금융 서비스’가 포함되었습니다.
AI 자체는 회사의 비정형 데이터 지식 저장소에 레이블을 지정하는 데 도움이 되는 수단을 제공했다고 Geurden은 설명하면서 연간 회전율이 25%에 달하는 인간 레이블 지정의 어려움을 지적했습니다.
그러나 라벨링은 단순한 상위 수준 태그보다 더 깊이 들어가야 합니다. Geurden은 “가장 먼저 AI가 실행되었을 때 거기에 무엇이 있었는지 알아야 합니다.”라고 말했습니다. “우리는 역사적 그림, 버전이 필요합니다.” 그런 다음 “우리는 기밀 정보에 대한 라벨링을 넘어서야 합니다. 우리가 할 수 있는 것과 할 수 없는 것을 지정하는 엄청난 양의 고객 데이터를 얻기 때문에 계약과 연결된 지리적 제한, 지리적 라벨링, 사업 부문 라벨링이 필요합니다.”
또한: 미국 정부 기관의 80% 이상이 이미 AI 에이전트를 사용하고 있으며 이는 시작에 불과합니다.
그는 이 모든 메타데이터를 계약으로 성문화해야 한다고 덧붙였습니다. “그건 쉬운 부분입니다. 그런 다음 이를 일부 기술 구조로 성문화해야 합니다. 현재로서는 여전히 매우 성가신 일입니다.”
경영진은 이러한 AI 구현의 모든 측면에서 거버넌스가 성공의 열쇠라고 강조했습니다. MacIntyre는 “우리는 무엇이 사용되고 있는지 알아야 합니다”라고 말했습니다.
“이는 섀도우 AI, 섀도우 IT, 모든 종류의 아이디어를 구현하고 엔드포인트 데이터로 돌아갑니다. 우리는 자산 인벤토리가 정확한지 알아야 합니다. 등록 및 승인된 사용 사례와 일치합니까? 그렇게 하면 적어도 누군가가 무언가 작업을 하고 있다면 승인된 특정 프로젝트와 연결되어 있기 때문에 Claude를 사용해야 한다는 것을 알 수 있습니다.”
또한: 이 4가지 중요한 AI 취약점은 방어자가 대응할 수 있는 것보다 더 빠르게 악용되고 있습니다.
다음으로 “이러한 에이전트가 실행되기를 원하는 안전한 환경은 무엇인지 생각해야 합니다.” MacIntyre는 계속해서 다음과 같이 말했습니다. “기본 모델과 어떻게 상호 작용하기를 원합니까? AI를 사용하는 에이전트와 애플리케이션이 의도한 방식으로 작동하는지 확인할 수 있도록 올바른 가시성과 원격 측정을 제공하는 장소로 모든 활동을 집중시키기 위해 어떤 아키텍처를 배치합니까? 아니면 오작동합니까?”
MacIntyre는 “아마도 현재 모든 디지털 리더에게 가장 어려운 과제는 에이전트 ID를 확립하는 것입니다. “에이전트 ID를 어떻게 부여합니까? 그런 다음 직원이 됩니다. 하지만 내 에이전트가 몇 초밖에 살지 못한다면 어떻게 될까요? 정말 흥미로운 문제인데 아직 이 문제를 잘 해결한 사람이 있는지 모르겠습니다.”라고 말했습니다.
자세한 정보 확인