AI 에이전트는 2년의 대부분을 컴퓨팅 분야의 차세대 기술로 약속받으며 보냈습니다. 이제 갑자기 먼 개념이라기보다는 사용자가 실제로 시도할 수 있는 것과 같은 느낌이 들기 시작했습니다.
Meta에는 연결된 서비스 전반에 걸쳐 웹 검색, 약속 예약, 양식 작성 및 작업 수행이 가능한 개인 AI 에이전트인 Muse가 있습니다. OpenAI는 Dots를 통해 에이전트 인프라를 확장해 왔으며 Instinct AI와 같은 스타트업은 WhatsApp 및 iMessage와 같은 친숙한 인터페이스 내에 에이전트를 배치하고 있습니다.
이러한 빠른 진전은 Snapdragon Summit에서 특히 두드러졌습니다. 여러 회사가 점점 더 사용자를 대신하여 행동할 수 있는 에이전트를 선보이는 동시에 Qualcomm은 다르지만 똑같이 중요한 주장을 내놓았습니다. 즉, 이러한 에이전트 아래에 있는 하드웨어가 마침내 따라잡고 있다는 것입니다.
Qualcomm의 SVP이자 컴퓨팅 및 게임 담당 GM인 Kedar Kondap과의 비공개 원탁회의를 마친 후 저는 가장 큰 질문은 Snapdragon PC가 AI 에이전트를 실행할 수 있는지 여부가 아니라는 생각을 했습니다. 점점 더 그렇게 할 수 있습니다. 더 흥미로운 질문은 해당 에이전트가 진정으로 유용해지면 어떤 일이 발생하는지, 그리고 그 경험이 어떤 모습일지 실제로 누가 결정하게 되는지입니다.
두뇌를 키우는 것은 일의 절반에 불과합니다
챗봇에서 상담원으로의 전환을 이해하는 가장 쉬운 방법은 답변 후에 어떤 일이 일어나는지 살펴보는 것입니다. 챗봇은 사용자에게 항공편 지연 여부를 알려줄 수 있지만 상담원은 항공편을 모니터링하고 취소를 확인하고 날씨와 일정을 확인하고 대안을 찾고 재예약 전에 허가를 요청할 수 있습니다.
나는 Snapdragon Summit에서 하와이가 허리케인 놀로(Hurricane Nolo)와 광범위한 비행 중단을 다루고 있을 때 이러한 차이를 실제로 보여주었습니다. 나는 상황을 추적하고 경고하기 위해 AI 에이전트를 배치했고, 내 동료 중 일부는 에이전트를 사용하여 항공편 재예약 및 체크인을 돕기 위해 한 단계 더 나아갔습니다. 이는 미래 지향적인 Qualcomm 데모가 아니라 AI 에이전트가 얼마나 빨리 참신함에서 해결해야 할 문제가 있을 때 사람들이 실제로 사용할 수 있는 것으로 전환하고 있는지를 실제로 엿볼 수 있는 것입니다.
그러나 중요한 문제가 있습니다. Qualcomm은 해당 에이전트의 모습을 단순히 결정할 수는 없습니다.
보시다시피 Qualcomm은 NPU, CPU, GPU, 메모리 아키텍처, AI 런타임 및 이를 구현하는 데 필요한 모든 개발자 도구 등 두뇌를 구축할 수 있습니다. 이는 개발자에게 참조 하드웨어, API, 키트 및 문서가 소비자의 책상에 도달하기 훨씬 전에 전달될 수 있습니다. 하지만 그 모든 실리콘을 사람들이 실제로 사용하고 싶은 경험으로 바꿔줄 사람은 여전히 필요합니다. 에이전트가 Windows, Android, OEM 소프트웨어 또는 메시징 앱과 같이 친숙한 소프트웨어 내에 상주하는지 여부는 궁극적으로 Microsoft, Google, Qualcomm의 파트너 및 개발자에게 달려 있습니다.
그것이 AI PC 시대의 조금은 어색한 현실이다. Qualcomm은 활주로를 건설할 수 있습니다. 아직 다른 누군가가 항공기를 제작해야 합니다. 그리고 이는 오늘날 에이전트 AI에 대한 가장 큰 질문 중 하나를 설명할 수 있습니다. 일반 사람이 실제로 에이전트를 어떻게 배포합니까?
에이전트 문제는 단순한 지능이 아닙니다. 인터페이스입니다
우리는 챗봇 분야에 꽤 능숙해졌습니다. ChatGPT, Gemini 또는 다른 어시스턴트를 열고 질문을 입력하고 답변을 얻은 후 삶을 이어가세요. 정신 모델은 거의 우스꽝스러울 정도로 간단합니다. 반면에 AI 에이전트는 우리에게 그 단순함을 창밖으로 던져버리라고 요구하고 있습니다. 에이전트에는 목표, 도구에 대한 액세스, 컨텍스트에 대한 어느 정도의 이해, 그리고 결정적으로 사용자를 대신하여 실제로 작업을 수행할 수 있는 권한이 필요합니다.
그리고 이는 즉각 다소 어색한 질문을 불러일으킵니다. 일반 사람이 실제로 어떻게 설정합니까? 대화 중에 자연스럽게 질문이 떠올랐습니다. 누군가 ChatGPT를 여는 방법을 알고 있다면 실제로 AI 에이전트를 어떻게 시작합니까? Kondap의 답변은 매우 솔직했습니다.
“모두가 거기에 도달하려고 노력하고 있다고 생각합니다. ‘UI와 인터페이스는 다음과 같습니다.’라고 간단하게 말할 수 있는 방법은 없다고 생각합니다. “
이는 놀라울 정도로 솔직한 인정이자 중요한 인정입니다. 에이전트를 더욱 똑똑하게 만드는 것은 퍼즐의 일부일 뿐입니다. 누군가는 그것이 어디에 있는지, 사용자가 어떻게 활성화하는지, 어떤 정보에 액세스할 수 있는지, 어떤 도구를 사용할 수 있는지, 그리고 가장 중요한 것은 언제 중지하고 허가를 요청해야 하는지 파악해야 합니다. 어느 누구도 신용카드와 동등한 디지털 능력과 열정을 지닌 AI 에이전트를 원하지 않습니다.
Kondap은 경험이 어디로 가야 하는지에 대한 예로 Google의 Googlebook 시연을 지적했습니다. 즉, 사용자가 제공하는 몇 가지 간단한 명령과 그 뒤에서 훨씬 더 복잡한 작업이 발생한다는 것입니다. “저는 그 정도 수준의 단순화가 필요하다고 생각합니다.”라고 그는 말했습니다. 그리고 바로 여기서 Qualcomm의 역할이 더욱 명확해집니다. Windows, Android 또는 사용자가 상호 작용하는 최종 인터페이스를 제어할 수는 없지만 개발자가 마침내 해당 환경을 크랙할 때 기본 하드웨어 및 소프트웨어 플랫폼이 준비되었는지 확인할 수 있습니다.
진짜 Qualcomm의 내기는 로컬 AI와 오케스트레이션입니다
에이전트 AI가 예상보다 느리게 움직일 수 있다는 느낌이 방 안에 있었지만 Kondap은 그 아이디어를 거부했습니다. Qualcomm의 관점에서 볼 때 인프라는 실제로 놀라울 정도로 빠르게 발전했습니다.
2년 전에는 130억 개의 매개변수 모델을 기기에서 실행하는 것이 벤치마크였습니다. 오늘날 Kondap은 개발자들이 45~85 TOPS를 제공하는 NPU를 통해 Snapdragon PC에서 거의 동일한 정확도로 300억~350억 개의 매개변수 모델을 실행하고 있다고 지적합니다. 그러나 모델의 효율성이 향상됨에 따라 해당 기능은 PC에만 국한되지 않습니다. 대신 Qualcomm은 이 에이전트 계층이 휴대폰, 웨어러블 및 스마트 장치로 원활하게 확장되는 것을 보고 있습니다.
AI 에이전트는 화려한 직함을 지닌 가벼운 챗봇이 아니기 때문에 이는 중요합니다. 하나의 명령으로 여러 모델 호출, 검색, 도구 호출 및 결정이 시작될 수 있으며 모든 단일 단계를 클라우드로 보내는 것이 항상 작업을 수행하는 가장 현명한 방법은 아닙니다. 에이전트가 가끔 질문에 단순히 대답하는 것이 아니라 지속적으로 작업해야 할 때 지연 시간, 개인 정보 보호 및 반복 추론 비용이 모두 중요해지기 시작합니다. 그러나 Qualcomm의 대답은 클라우드가 사라지는 척하는 것이 아닙니다. 이는 장치를 방정식의 또 다른 지능적인 부분으로 만드는 것입니다. 여기서 Kondap이 선호하는 단어는 오케스트레이션입니다.
“오케스트레이션이 더 중요해요.”
이것이 바로 Qualcomm의 접근 방식이 흥미로운 부분입니다. 휴대폰은 가벼운 작업을 처리할 수 있고, 웨어러블은 상황을 캡처할 수 있으며, 워크로드에 더 많은 메모리나 열 헤드룸이 필요할 때 PC가 대신할 수 있으며, 훨씬 더 큰 추론 모델이 필요한 경우 클라우드가 개입할 수 있습니다. 에이전트는 사실상 교통 경찰이 되어 어떤 장치와 어떤 컴퓨팅 계층이 작업을 처리해야 하는지 결정합니다. 이는 단순히 더 큰 NPU를 노트북에 집어넣고 AI PC라고 부르는 것보다 훨씬 더 흥미로운 제안입니다.
Qualcomm은 본질적으로 전체 장치 생태계를 에이전트 도구 상자의 일부로 만들려고 노력하고 있습니다. Snapdragon Summit에서 이 회사의 시연에서는 개발자들이 이미 온디바이스 에이전트를 실험하고 있는 모습을 보여주었으며, 플랫폼은 이러한 경험을 구축하기 위한 하드웨어 및 소프트웨어 도구를 제공합니다.
최소한 일부 인텔리전스를 로컬에 유지해야 하는 실질적인 이유가 있습니다. 개인 파일, 개인 컨텍스트 및 일상적인 추론이 반드시 원격 서버로 왕복할 필요는 없습니다. 즉, Qualcomm은 실제로 로컬 AI와 클라우드 AI를 놓고 논쟁을 벌이는 것이 아닙니다. 언제 두 가지를 모두 사용해야 하는지 아는 에이전트가 필요하다고 주장하고 있습니다.
불편한 부분: 신뢰
에이전트가 더 유용해질수록 에이전트를 사용하는 사람에 대해 더 많이 알아야 합니다. 그리고 그것이 상황이 조금 불편해지는 부분입니다. 챗봇은 사용자에 대해 많이 알지 못해도 질문에 즐겁게 대답할 수 있습니다. 그러나 진정으로 유용한 상담원은 이메일, 달력, 파일, 여행 계획은 물론 심지어 결제 시스템에도 액세스해야 할 수도 있습니다. 컨텍스트가 많을수록 에이전트가 더 똑똑해지고 유용해집니다. 그러나 이는 에이전트의 실수가 훨씬 더 심각한 결과를 초래할 수 있음을 의미하기도 합니다.
이에 대한 Kondap의 비교는 놀랍게도 관련성이 높습니다: 온라인 뱅킹. 우리는 항상 신용카드 정보를 전화기에 입력하거나 화면을 통해 돈을 옮기는 것이 편하지 않았습니다. 시간이 지남에 따라 인증, 권한 및 보안 시스템으로 인해 디지털 결제가 거의 지루할 정도로 정상적으로 느껴졌습니다. AI 에이전트는 특히 질문에 답하는 단계를 거쳐 실제로 우리를 대신하여 작업을 수행하는 과정에서 유사한 신뢰 구축 활동을 거칠 수 있습니다.
“우리 모두는 결제를 사용하여 휴대폰에 신용카드를 넣는 것에 매우 편안합니다. 처음 결제가 이루어졌을 때 우리 모두는 긴장했습니다.”
그러나 한 가지 중요한 차이점이 있습니다. AI 에이전트는 단지 거래만 처리하는 것이 아닙니다. 의도를 해석하고 그 과정에서 결정을 내리는 것입니다. 지침을 오해하거나, 잘못된 이메일을 보내거나, 잘못된 항공편을 예약하거나, 예정에 없던 구매를 하게 되면 분명한 질문은 누가 책임을 지는가 하는 것입니다. 기기 제조사? 운영 체제 공급자? AI 모델 개발자? 에이전트 개발자? 아니면 애초에 그것을 신뢰한 사용자일까요? NPU 마력이 아무리 많아도 이에 답할 수 없습니다.
Kondap은 신뢰가 하루아침에 실현되지는 않는다는 점을 인정하고 Qualcomm이 이미 문제를 해결한 척하지 않도록 조심하고 있습니다. 그의 견해는 에이전트가 액세스할 수 있는 항목, 수행할 수 있는 작업, 권한이 필요한 시점에 대해 에코시스템이 더 명확한 경계를 설정함으로써 사용자가 더 편안해질 것이라는 것입니다. Qualcomm은 처리 엔진을 구축하고 모델을 최적화하며 개발자에게 점점 더 뛰어난 AI를 로컬에서 실행할 수 있는 도구를 제공할 수 있지만 신뢰는 실리콘이 기본으로 제공할 수 있는 것이 아닙니다. 생태계 전체가 이를 벌어야 합니다.
퀄컴의 AI 에이전트 베팅은 PC보다 크다
이것이 궁극적으로 에이전트 AI에 대한 Qualcomm의 접근 방식이 단순히 노트북에 더 빠른 NPU를 넣는 것보다 더 흥미로운 이유입니다. PC는 휴대폰, 안경, 웨어러블 기기 및 클라우드 서비스로 구성된 훨씬 더 큰 생태계에서 로컬 브레인이 될 수 있으며, 각 장치는 제공하기에 가장 적합한 컴퓨팅 또는 컨텍스트를 제공합니다. Kondap은 모든 장치에 역할이 있다고 생각합니다. PC는 작은 장치가 단순히 열적으로 처리할 수 없는 작업 부하를 처리하는 반면, 더 많은 컴퓨팅 성능이 필요할 때 클라우드는 계속 사용할 수 있습니다.
아이러니한 점은 최고의 에이전트 PC가 결국 PC 자체를 덜 중요하게 느끼게 만들 수 있다는 것입니다. 애플리케이션을 열고, 창 사이를 이동하고, 정보를 수동으로 연결하는 대신 사용자는 단순히 의도를 명시하고 시스템이 나머지 작업을 처리하도록 할 수 있습니다. Qualcomm은 실리콘이 마침내 그러한 미래를 준비하고 있다고 믿는 것으로 보입니다. 이제 컴퓨터가 지시를 기다리지 않고 조치를 취하기 시작할 때 무슨 일이 일어날지 결정하려면 운영 체제, OEM, 개발자, 그리고 궁극적으로 사용자가 필요합니다.
PC는 사용자에게 다음에 무엇을 해야 할지 묻는 데 수십 년을 보냈습니다. 에이전트 시대가 마침내 대본을 뒤집을 수 있으며, Qualcomm은 Snapdragon이 그렇게 될 때 준비가 되기를 원합니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요