ZDNET을 팔로우하세요: 우리를 선호 소스로 추가하세요 Google에서.
ZDNET의 주요 시사점
- AI 에이전트를 프로덕션으로 옮기는 것은 어려운 일이 될 수 있습니다.
- 똑똑한 전문가는 거버넌스와 프레임워크에 중점을 둡니다.
- 그들은 전문가와 협력하여 명확한 결과가 설정되도록 합니다.
AI 에이전트의 잠재력에 대한 과대 광고는 많지만 도구가 투자 수익을 창출한다는 증거는 적습니다.
기술 분석가 Gartner는 최근 이러한 에이전트가 생산 중일 때 사고가 발생한 후에만 식별되는 거버넌스 격차로 인해 기업의 40%가 2027년까지 자율 AI 에이전트를 강등하거나 폐기할 것이라고 예측했습니다.
또한: AI는 인지 피로를 유발합니다. 더 빠르고 더 낮은 속도로 작업하는 방법은 다음과 같습니다.
최근 샌프란시스코에서 열린 Snowflake Summit에서 세 명의 디지털 리더가 조직에서 에이전트를 프로덕션에 투입하는 방법을 설명했습니다. 그들은 AI를 활용하려는 다른 전문가들을 위해 프레임워크 사용, 전문가 활용, 데이터 수익 창출이라는 세 가지 교훈을 공유했습니다.
1. 프레임워크에 집중
웨어러블 기술 전문 기업인 Whoop의 분석 담당 부사장인 Matt Luizzi는 그의 조직이 건강 및 웰니스 통찰력을 강화하기 위해 생체 인식 데이터를 연중무휴 24시간 수집하며 Snowflake가 회사의 내부 분석 서비스를 지원한다고 말했습니다.
Luizzi는 에이전트, 특히 개발자와 데이터 엔지니어를 위한 기술 전문가의 코딩 에이전트인 Snowflake CoCo가 이 프로세스에서 점점 더 중요한 역할을 한다고 말했습니다.
“우리는 몇 달 동안 CoCo를 사용해 왔으며 쿼리 응답을 신속하게 보고 이것이 올바른지 아닌지 말할 수 있고 해당 프로세스를 확장하는 방법을 알아내려고 노력하는 사람들인 분석 팀으로 시작했습니다.”라고 그는 말했습니다.
“이제 우리는 보다 공식화된 평가 프레임워크를 만들고 에이전트를 대규모로 출시하기 시작하는 시점에 왔습니다.”
또한: 생산성은 잊어버리세요. 실제 AI 가치를 창출하는 5가지 전략적 변화는 다음과 같습니다.
Luizzi는 회사에 A/B 테스트를 배포하고 CoCo를 사용하여 결과를 분석하고 다음 기능을 제안하고 테스트하고 반복하는 소프트웨어 엔지니어가 있다고 말했습니다.
“이 접근 방식은 실험 프레임워크를 자동화하여 비즈니스 가치뿐만 아니라 고객 가치도 전달하는 방식을 빠르게 가속화하고 있습니다.”라고 그는 말했습니다.
Luizzi는 회사의 데이터가 Snowflake 플랫폼에 중앙 집중화되어 있기 때문에 에이전트 탐색을 위한 기본 배관이 이미 마련되어 있다는 점에서 그의 조직이 운이 좋았다고 말했습니다. 그들은 회사의 Cortex AI 서비스를 사용하여 에이전트 테스트와 학습 수업을 시작했습니다.
“우리는 맥락이 전부라는 사실을 빨리 배웠습니다.”라고 그는 말했습니다. “그것은 실제로 의미론적 계층에 기대어 컨텍스트가 구조화된 위치에 있는지 확인하는 것을 의미했습니다.”
또한: Word, Excel, PowerPoint에서 Claude를 위해 Copilot을 버린 이유와 귀하도 그렇게 할 수 있는 방법
Luizzi는 프레임워크가 성공적인 에이전트 AI 탐색에 중요하다는 것이 핵심 교훈이라고 말했습니다.
“우리는 지난 10년 동안 데이터 아키텍처에서 해왔던 것과 동일한 방식으로 모든 작업을 보다 반복 가능한 방식으로 수행하려고 노력하고 있습니다.”라고 그는 말했습니다. “이러한 AI 워크로드를 확장할 수 있는 반복 가능한 프레임워크를 구축하는 것이 우리가 추진하고 있는 일입니다.”
2. 전문 분석가 활용
스포츠 전문 기업인 Fanatics의 데이터 부사장인 Madeleine Want는 Snowflake 플랫폼에서 지원하는 활동을 통해 조직의 베팅 및 게임 부서 전반에서 데이터 엔지니어링, 데이터 과학 및 기계 학습을 관리합니다.
“실험을 시작했을 때 무엇이 고착되고 무엇이 미끄러질지 확신할 수 없었지만, 고착된 것은 기본 데이터의 상태가 좋을수록, 거버넌스가 좋을수록 LLM이 더 쉽게 의미를 도출하고 질문에 효과적으로 답할 수 있다는 점을 발견했습니다.”라고 그녀는 말했습니다.
또한: 이 여행사의 AI 출시로 만족도가 73% 증가한 방법: 비즈니스를 위한 5단계 플레이북
데이터와 거버넌스에 초점을 맞추는 것이 당연한 말처럼 들릴 수도 있지만 Want는 18개월 전에는 확실히 그렇지 않았다고 말했습니다.
“우리는 맞춤형 기계 학습 모델을 구축하는 조직으로서 많은 경험을 갖고 있었기 때문에 제3자 모델을 가져와서 데이터 위에 바로 배치한다는 아이디어가 분석에 효과가 있을 수 있다는 것을 믿기 어려웠습니다. 하지만 이제 이러한 접근 방식은 우리가 모든 작업을 수행하는 방식에 매우 많이 내장되어 있습니다.”라고 그녀는 자신의 조직이 탐색에서 활용으로 어떻게 전환했는지 간략하게 설명했습니다.
“우리는 맥락이 잘 연결된 영역과 비즈니스 영역을 처음부터 끝까지 이해하고 상담원을 코칭할 수 있는 전문 분석가가 있는 영역에서 초기에 성공을 거두었습니다.”
Want는 자신의 조직이 시간이 지남에 따라 더 많은 성공을 거두었다고 말했습니다. 에이전트가 질문에 자율적으로 답변하기 전에 요구하는 감독 수준과 마찬가지로 컨텍스트 계층에서 수행해야 하는 투자도 감소하고 있습니다.
“답변의 정확성을 측정하는 능력이 향상되었습니다. 이제 확장된 평가 프레임워크를 도입하고 있기 때문에 우리가 보지 않을 때 상담원이 어떻게 대답하는지에 대한 확신을 가질 수 있게 되었고, 이것이 바로 요점입니다.”
또한: 걱정되는 AI 에이전트가 당신을 대신할 것인가? 직장에서 불안을 행동으로 바꾸는 5가지 방법
Want는 이러한 성공이 에이전트의 범위가 확대되고 있음을 의미한다고 말했습니다. 다른 전문가들은 단순히 분석에만 국한되는 것이 아니라 긍정적인 점을 보고 에이전트를 탐색하고 싶어합니다.
Fanatics는 여전히 Snowflake의 인터페이스와 에이전트를 사용하고 있지만 회사는 사람들이 데이터 기반 통찰력으로 더 많은 작업을 수행할 수 있도록 API와 응답을 다른 타사 도구에 내장하고 있습니다.
“사용자는 운영 사용 사례를 통해 더 많은 것을 원하고 더 많은 작업을 수행하기를 원합니다.”라고 그녀는 말했습니다. “사람들은 작업하는 곳에서 데이터를 사용할 수 있어야 하기 때문에 다양한 채널과 소비 매체를 통해 이러한 통찰력에 접근할 수 있기를 요구하고 있습니다.”
3. 데이터로 수익을 창출하세요
소프트웨어 전문업체인 Synopsys의 CIO인 Sriram Sitaraman은 자신의 조직이 의사 결정 프로세스를 강화하기 위해 데이터 플랫폼과 CoCo와 같은 에이전트 서비스를 사용하는 Snowflake의 오랜 고객이라고 말했습니다.
약 18개월 전, Sitaraman은 회사가 AI 에이전트가 빠른 쿼리 실행, 그래프 생성, 통찰력 도출과 같은 후배 직원의 작업을 수행할 수 있는 잠재력을 인식했다고 말했습니다.
“우리는 그 기능을 활용하여 ‘자, 지식 에이전트를 생성하면 이를 다차원적으로 배포할 수 있습니다.’라고 말했습니다.”
또한: AI 프로젝트의 90%가 실패합니다. 실패하지 않도록 보장하는 3가지 방법은 다음과 같습니다.
예를 들어 보고서를 실행하는 재무 부서의 수익 에이전트와 회사의 데이터 센터와 관련된 티켓팅 시스템의 디버그 에이전트가 있습니다.
Sitaraman은 팀이 결과 품질, 결과 도달 시간, 결과 비용이라는 세 가지 측면에서 AI의 잠재력을 평가했다고 말했습니다.
그들은 AI가 세 가지 영역 모두에서 긍정적인 영향을 미친다는 사실을 발견했으며 이는 중요한 돌파구라고 말했습니다. “과거에는 둘 중 하나를 희생해야 했습니다.”
이제 상황에 맞게 AI 모델을 조정할 때마다 시스템을 다시 프로그래밍하는 대신 근본적인 문제에 대해 걱정하기보다는 통찰력에 집중할 수 있습니다.
Sitaraman은 회사의 에이전트 여정을 회상하며 “데이터로 시작하세요. AI를 사용하여 데이터에서 수익을 창출하세요”라고 말했습니다. “AI는 실제로 선형 규모에 불과하기 때문에 이니셔티브에 얼마나 많은 양을 투입하는지는 중요하지 않습니다. AI가 더 많은 데이터를 가질수록 더 나은 결정을 내릴 수 있습니다.”
또한: 예산이 부족할 때 AI를 사용하는 5가지 방법
그러나 Sitaraman도 경고를 발령했습니다. “우리가 깨달은 것 중 하나는 오늘날 자동화와 자율성 사이에 큰 차이가 없기 때문에 조심해야 한다는 것입니다.”라고 그는 말했습니다.
“프로세스를 자동화하고 싶습니까, 아니면 실제로 다른 비용 구조, 사용 패턴 및 거버넌스를 포함하는 에이전트를 만들고 싶습니까?”
Sitaraman은 전문가들이 올바른 사용 사례를 식별하고, 올바른 프레임워크를 구축하며, 에이전트가 수행할 수 있는 작업을 결코 과소평가하지 않도록 권장했습니다.
“에이전트를 배치하고 ‘이 사람은 영업 운영 에이전트입니다.’라고 말할 수 있습니다. 종종 영업 분석 에이전트나 다른 유형의 에이전트가 되는 것을 막을 수 있는 방법이 없습니다.”라고 그는 말했습니다.
“그러므로 ‘이것이 우리가 원하는 것인가?’라고 묻는 것이 중요합니다. 프레임워크는 기술과 마찬가지로 매우 중요합니다. 그 과정을 신중하게 생각해야 한다”고 말했다.
자세한 정보 확인