Perplexity와 NVIDIA는 Windows PC에 휴대용 컴퓨터를 도입하여 호환되는 GeForce RTX 및 RTX PRO 시스템 소유자에게 실제로 작업을 수행할 수 있는 로컬 AI 에이전트를 제공합니다. 문제는 하드웨어입니다. Windows를 지원하려면 24GB 이상의 VRAM을 갖춘 NVIDIA GPU가 필요합니다.
모든 일에 클라우드가 필요하지 않은 AI 동료라고 생각하세요
아이디어는 매우 간단합니다. 휴대용 컴퓨터는 AI 모델을 가속화하는 NVIDIA GPU를 통해 PC에서 다단계 작업을 계획하고 실행할 수 있습니다. 이는 GitHub 풀 요청을 검토하거나, 재무 문서를 검토하여 반복되는 수수료를 찾거나, 고객 데이터를 분석하여 그 결과를 Slack으로 보내는 것을 의미할 수 있습니다. 중요한 점은 이 작업이 로컬에서 발생할 수 있다는 것입니다.
이것이 휴대용 컴퓨터가 점점 더 능력을 발휘하는 OpenAI 및 Anthropic의 에이전트와 다른 점입니다. ChatGPT Work는 로컬 파일 및 데스크톱 앱에서 작동할 수 있으며 Claude Cowork는 로컬 파일 및 연결된 서비스에서도 작동할 수 있습니다. 그러나 휴대용 컴퓨터는 단순히 PC에 있는 파일에 대한 클라우드 AI 액세스를 제공하는 것이 아니라 지원되는 NVIDIA 하드웨어에서 로컬로 에이전트 스택과 모델을 실행하도록 설계되었습니다.
그렇다고 클라우드가 사라진다는 뜻은 아니다. 작업에 웹 조사나 더 강력한 경계 추론이 필요한 경우 휴대용 컴퓨터는 관련 콘텐츠를 클라우드 서비스로 보내기 전에 허가를 요청합니다. 따라서 민감한 문서는 기계에 보관하면서 필요한 경우 더 까다로운 단계를 에스컬레이션할 수 있습니다.
DGX Spark에서 차세대 RTX PC까지
휴대용 컴퓨터는 NVIDIA DGX Spark 및 Windows PC에 탑재되어 있으며 오케스트레이터 및 에이전트 하네스를 포함하여 전체 런타임을 로컬에서 실행할 수 있습니다. 즉, 가장 인상적인 것은 타이밍입니다.
NVIDIA는 새로운 RTX Spark Windows PC가 10월에 출시되어 DGX Spark를 넘어 더 작은 시스템에 로컬 AI를 도입할 것이라고 밝혔습니다. 따라서 휴대용 컴퓨터는 일회성 실험이라기보다는 NVIDIA가 RTX 시스템을 원하는 방향, 즉 AI를 실행하는 컴퓨터뿐만 아니라 실제로 작업을 수행할 수 있는 컴퓨터에 대한 미리보기처럼 느껴집니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요