토큰 최대화는 AI 비용 절감입니다 – 예산을 초과하지 않고 에이전트를 사용하는 방법

coinpuzzlegettyimages-2192061140

Serg Myshkovsky/Getty Images를 통한 Photodisc

ZDNET을 팔로우하세요: 우리를 선호 소스로 추가하세요 Google에서.


ZDNET의 주요 시사점

  • 에이전트 AI를 지원하기 위한 토큰 최대화는 지속 불가능합니다.
  • 비즈니스 리더는 토큰 사용에 대한 전략을 수립해야 합니다.
  • 사람들이 지침 내에서 에이전트를 탐색할 수 있는 공간을 제공하세요.

AI에서의 12개월은 영원합니다. 통합 기술 전문 기업 Boomi의 CEO인 Steve Lucas는 작년에 CIO들이 명확한 방향 감각 없이 Gen AI 이니셔티브에 돌진하고 있다는 점을 우려했습니다. 1년이 지난 이제 그는 IT 전문가들이 에이전트 기술에 대해 유사하게 성급한 접근 방식을 취하고 있으며 토큰 사용 규모가 한 방향으로만 증가하고 있다는 점을 우려하고 있습니다.

그는 ZDNET에 “회사 내부에서 일하든 외부에서 일하든 핵심은 AI를 사용하고 자신의 업무를 위해 해당 기술을 최대한 활용하는 것”이라고 말했습니다.

또한: 기술 리더에 따르면 AI 에이전트 시대에 탁월할 3가지 유형의 사람들

토큰은 AI 모델이 처리하는 정보의 기본 단위이며, 연구 결과에 따르면 기술이 훨씬 더 많은 토큰을 소비함에 따라 에이전트의 비용이 치솟고 예측할 수 없는 것으로 나타났습니다.

내 ZDNET 동료인 Steven Vaughan-Nichols가 최근에 논의한 것처럼, 생성 AI가 부상하는 동안에는 모두가 조직에서 누가 토큰을 가장 많이 사용했는지 보여주는 토큰 리더보드에 열광한 것은 그리 오래되지 않았습니다. 오늘날 토큰을 낭비할 여유가 있는 사람이 없기 때문에 토큰 리더보드는 쓸모가 없습니다.

에이전트 시대에 토큰 최대화는 과잉의 신호이며 토큰 소비를 측정, 가격 책정 및 관리하는 관행인 “토크노믹스”는 토큰이 훨씬 더 빠른 속도로 소비되고 있다고 지적한 Lucas와 같은 기술 CEO에게도 핵심 비즈니스 활동입니다.

“1년 전만 해도 우리는 토큰경제학에 대해 이야기하지 않았습니다.”라고 그는 말했습니다. “하지만 작년에 저는 개인적으로 Claude에 지출한 금액의 10배를 Boomi에 지출했습니다. 10배는 지속 가능하지 않습니다. 매년 그렇게 할 수는 없습니다.”

또한: 모든 회사에 필요한 새로운 엔터프라이즈 AI 전문가와 그 이유

이제 자신만의 기업용 토큰노믹스 버전을 만드는 책임은 기업과 전문가에게 있습니다. Agentic AI는 모든 비즈니스 운영 방식을 변화시킬 예정이며 에이전트 탐색을 위한 비용 효율적인 기술을 만드는 것이 시급한 우선순위라고 Lucas는 제안했습니다.

“기업에서 중요한 것은 궁극적으로 AI의 경제성입니다.”라고 그는 말했습니다. “대부분의 조직은 AI를 미래의 엔터프라이즈 엔진으로 간주할 것입니다. 따라서 이제 중요한 것은 ‘AI를 운영할 수 있는가?’입니다. 그것이 근본적인 질문이다.”

비즈니스 리더들은 앞으로 나아갈 최선의 방법은 분명하다고 제안했습니다. 즉, 사람들이 에이전트를 사용할 수 있는 방법을 제한하는 대신 비용 효율적인 모델 결정을 내릴 수 있는 지침과 컨텍스트를 제공하는 것입니다.

사람들을 빛나게 해줄

Snowflake CEO Sridhar Ramaswamy는 자신이 속한 조직에서도 토큰 소비가 증가하고 있음을 인식했습니다. 그러나 그는 또한 직원들에게 요원을 탐색할 수 있는 공간을 제공하는 것이 중요하다고 말했습니다.

“우리는 다양한 내부 팀에서 AI 추론에 얼마나 많은 비용을 지출하고 있는지 걱정하고 있습니까? 물론입니다.”라고 그는 말했습니다. “하지만 그 지출이 AI를 사용하지 않는 이유라고 보나요? 절대 그렇지 않습니다.”

토큰 최대화가 우려되는 반면, Ramaswamy는 최근 샌프란시스코에서 열린 자신의 회사 Summit 2026 행사의 미디어 세션에서 AI의 창의적인 사용이 새로운 비즈니스 기회를 여는 데 도움이 될 수 있다고 말했습니다.

또한: 기업의 40%가 AI 에이전트를 폐기할 것입니다 – 실패하지 않도록 하는 3가지 방법

에이전트는 회사의 고객을 위한 새로운 서비스를 더 빠르고 효과적으로 생성할 수 있는 잠재력을 통해 직원 효율성과 생산성을 높이는 데 도움을 줄 수 있습니다.

“우리는 에이전트 AI를 우리가 하는 일뿐만 아니라 고객이 사용할 수 있는 제품으로 프로세스를 전환할 수 있는 방법을 최적화할 수 있는 기회로 보고 있습니다.”라고 그는 말했습니다.

Ramaswamy와 마찬가지로 웨어러블 기술 전문 기업인 Whoop의 분석 부사장인 Matt Luizzi도 그의 회사가 경쟁 우위를 찾기 위해 에이전트 탐색에 투자하고 있다고 말했습니다.

“사람들이 자신의 안전지대에서 벗어나기를 원한다면, 우리는 그들이 위험을 감수하고 아무것도 깨뜨릴 수 없다는 점을 이해하도록 허용해야 합니다.”

또한: AI는 인지 피로를 유발합니다. 더 빠르고 더 낮은 속도로 작업하는 방법은 다음과 같습니다.

간단히 말해서 Luizzi는 직원이 에이전트에 돈을 지출하는 것은 괜찮지만 이것이 토큰 소비가 통제 불가능하다는 의미는 아니라고 말했습니다.

그는 Summit 2026의 패널 세션에서 “우리는 사람들에게 지출 금액을 알릴 수 있는 가드레일과 모니터링 및 관찰 기능을 갖추고 있습니다”라고 말했습니다.

“그러나 아마도 우리는 앉아서 ‘어떻게 이 일을 더 효율적으로 수행할 수 있으며 무엇을 달성하려고 합니까?’라고 물어볼 수 있어야 합니다.”

모든 것을 맥락에 맞추기

Luizzi가 제안한 에이전트 성공의 핵심은 신중하게 관리되는 지원입니다. 예, 사람들이 에이전트와 토큰을 사용하여 경계를 확장하도록 허용하되 너무 지나치게 놔두지는 마십시오.

“결국 우리는 이에 대한 ROI가 있다고 생각하기 때문에 열심히 노력하고 있습니다. 우리는 사람들이 더 효율적이 되는 것을 보고 있습니다. 우리는 작업이 더 빨리 완료되는 것을 보고 있습니다”라고 그는 말했습니다.

추가 내용: Workday와 기타 소프트웨어 공급업체가 AI에서 살아남기 위한 계획

“이러한 긍정적인 결과는 우리가 사람들이 얼마나 많은 토큰을 사용하는지에 지나치게 관심을 두지 않고 이것이 확장되어야 한다는 점을 이해하여 사람들이 열광하는 것을 방지하려는 노력을 의미합니다.”

기술 전문업체 Synopsys의 CIO인 Sriram Sitaraman은 Snowflake 컨퍼런스의 동일한 패널 세션에서 사람들이 비즈니스 과제에 대한 혁신적인 솔루션을 발견하기 위해 에이전트를 포함한 새로운 길을 탐색할 수 있어야 한다고 말했습니다. “제약 조건으로는 혁신할 수 없습니다. 지금까지만 갈 수 있습니다.”

Luizzi와 마찬가지로 Sitaraman은 지침이 토큰 소비에 대한 엄격한 경계를 설정하는 데 도움이 될 수 있다고 말했습니다. 그는 프로젝트에 대한 올바른 맥락이 효과적인 제약을 설정하는 데 도움이 될 수 있다고 제안했습니다.

“에이전트에게 ‘내일 뭐할까?’라고 묻는다면 엄청난 양의 데이터와 토큰을 소비하고 유용하지 않은 결과가 나올 수도 있습니다.”라고 그는 말했습니다. “북미 영업 운영 에이전트를 생성하고 프로젝트에 구체적인 목표와 데이터를 제공하는 등 컨텍스트를 설정하면 소비가 제한되고 사용자에게 제공하는 가치는 더 높아집니다.”

또한: AI 알고리즘을 이기고 꿈의 직업을 얻는 방법

비즈니스 맥락에 대한 이러한 초점은 프랑스 TV 네트워크 TF1의 그룹 최고 데이터 및 광고 기술 책임자인 Francois-Xavier Pierrel이 반향을 일으켰습니다. 그는 상식적인 접근 방식이 비즈니스 및 전문 사용자가 토큰 사용을 제어하는 ​​가장 좋은 방법이라고 ZDNET에 말했습니다.

Pierrel은 설탕 중독에 대한 대안적인 접근 방식을 비교했습니다. 음식에 설탕을 첨가하기 시작하면 그것에 익숙해지고 건강에 해로운 중독이 생기기 시작합니다. 그는 AI도 비슷한 위험을 안고 있다고 말했다.

그는 생성 AI 기술을 사용하기 위해 초기에 서두르던 시절을 되돌아보며 “모든 것이 저렴했고 매우 저렴했으며 우리는 그것에 모든 것을 투자했습니다”라고 말했습니다. 이제 에이전트 집착은 더 많은 비용이 드는 제안을 나타냅니다.

“사용되는 토큰의 수는 빠르게 큰 숫자가 될 수 있습니다. 그리고 어느 시점에서 에이전트 AI에 엄청난 돈을 투자하는 모든 회사를 살펴보면 청구서가 다시 돌아올 것입니다.”

또한: 생산성은 잊어버리세요. 실제 AI 가치를 창출하는 5가지 전략적 변화는 다음과 같습니다.

Pierrel은 주의가 그의 조직의 표어이며 전문가들이 대규모 언어 모델을 사용할 때 자신의 옵션을 어떻게 고려해야 하는지에 대한 예를 제시했습니다.

“매우 좁거나 경계가 강한 사용 사례의 경우 ‘예상 또는 계획보다 적은 토큰을 소비하면서도 여전히 동일한 작업을 수행하는 작은 모델을 사용할 수 있습니까?’라고 말합니다.”

기업이 작업 프로세스의 일부로 더 많은 에이전트를 배치하려고 함에 따라 Pierrel은 이러한 종류의 토큰경제학 전략이 가치 창출에 중요할 것이라고 제안했습니다.

또한: AI 에이전트는 새로운 동료입니다 – 최상의 결과를 얻는 방법

“나는 우리가 이것에 대해 더 민첩하게 대처하고, 여러 가지를 시도한 다음 엄청난 비용이 발생하는 것을 피하기 위해 사용 사례에 적응할 것이라고 생각합니다.”라고 그는 말했습니다. “우리는 달에 로켓을 쏘는 것이 아닙니다. 그러니 합리적으로 생각합시다. 더 작은 규모로 할 수 있고 여전히 작동할 수 있다면 백만 명의 에이전트를 배치하지 마십시오.”

완벽 가이드 보기

자세한 정보 확인

관련 기사

댓글 남기기