지난 한 해 동안 Microsoft는 Windows AI의 미래는 Copilot+ PC에 달려 있다고 말해왔습니다. Microsoft의 가장 진보된 로컬 AI 기능을 원한다면 전용 NPU(신경 처리 장치)가 있는 머신이 필요했습니다. 그게 거래였습니다. 이제 Microsoft는 규칙을 다시 작성하는 것으로 보입니다.
업데이트된 문서에 따르면 Windows 11의 로컬 언어 모델 API는 이제 최소 6GB VRAM을 갖춘 Nvidia GeForce RTX 30 시리즈 GPU(또는 그 이상)가 있는 경우 Copilot+가 아닌 PC에서 실행할 수 있습니다. 표면적으로 이것은 개발자 중심의 업데이트처럼 들립니다. 실제로 이는 작년에 Copilot+ PC가 출시된 이후 Microsoft의 AI PC 전략에서 가장 중요한 변화 중 하나일 수 있습니다. 더 중요한 것은 AI PC 시대가 시작된 이래로 계속 남아 있던 질문을 제기한다는 것입니다. 애초에 이 모든 것을 위해 NPU가 정말로 필요했습니까?
CoPilot+ 독점 시대는 항상 조금 어색했어요
2024년 6월 Copilot+ PC가 출시되었을 때 Microsoft는 이를 Windows의 로컬 AI 경험에 대한 관문으로 포지셔닝했습니다. 자격을 갖추려면 장치에 16GB RAM, SSD 스토리지, 최소 40 TOPS의 AI 성능을 제공할 수 있는 NPU가 필요했습니다. 메시지에서는 이러한 특수 칩이 AI 워크로드를 로컬에서 실행하는 데 필수적이라고 제안했습니다. 효율성 측면에서는 사실이지만 전체 내용을 설명하지는 않았습니다.
AI 하드웨어에 익숙한 사람이라면 GPU가 이러한 작업 부하를 처리하는 것 이상이라는 것을 이미 알고 있었습니다. 실제로 최신 그래픽 카드는 언어 모델 및 생성 AI 애플리케이션 실행에 있어서 NPU보다 훨씬 더 강력한 경우가 많습니다. 그렇기 때문에 소규모 언어 모델부터 이미지 생성기에 이르기까지 로컬 AI 도구를 실험하는 대부분의 매니아가 수년 동안 GPU에 의존해 왔습니다. 그러나 Windows의 기본 AI 경험은 Copilot+ 배지 뒤에 고정되어 있습니다.
그로 인해 이상한 상황이 발생했습니다. RTX 4070을 탑재한 게이밍 PC는 AI 모델을 로컬에서 실행할 수 있을 만큼 충분한 마력을 갖고 있었지만 NPU가 부족해 마이크로소프트의 기본 AI 프레임워크에 액세스할 수 없었습니다. 한편, 적격한 NPU를 갖춘 더 얇은 노트북이 가능합니다. 이번 변경으로 이러한 구분이 완전히 지워지는 것은 아니지만 확실히 그 어느 때보다 얇아 보입니다.
Microsoft는 NPU를 넘어 AI의 기반을 마련할 수 있습니다.
새로 확장된 언어 모델 API를 통해 개발자는 지원되는 Nvidia 하드웨어에서 로컬 AI 기능을 활용할 수 있습니다. Microsoft는 이제 이러한 API가 최소 6GB VRAM이 있는 경우 RTX 30 시리즈 GPU 이상이 장착된 Copilot+가 아닌 시스템에서 실행될 수 있다고 밝혔습니다. 이러한 API는 Microsoft의 컴팩트 온디바이스 언어 모델인 Phi Silica를 기반으로 합니다. 애플리케이션은 텍스트 요약, 콘텐츠 다시 작성, 텍스트를 테이블로 변환, 정보 서식 지정, 프롬프트에서 응답 생성과 같은 작업에 이를 사용할 수 있습니다.
사람들이 일반적으로 ChatGPT와 같은 서비스와 연관시키는 AI 기능의 경량 로컬 버전이라고 생각하십시오. 차이점은 모든 것이 클라우드가 아닌 장치에서 직접 실행된다는 것입니다. 이는 두 가지 이유로 중요합니다. 첫째, 개인 정보 보호 — AI 처리가 PC에 유지된다면 중요한 문서, 메모, 이메일 및 초안이 컴퓨터 밖으로 나갈 필요가 없습니다. 둘째, 성능 — 로컬 AI 기능은 클라우드 서버, 구독 또는 인터넷 연결을 기다리지 않고 즉시 실행할 수 있습니다.
흥미로운 부분은 Microsoft가 이러한 기능을 어떻게 배포할 계획인지입니다. 앱에 Phi Silica가 필요한 경우 Windows는 Windows 업데이트를 통해 필요한 모델을 다운로드하고 지원되는 하드웨어를 사용하여 로컬로 실행할 수 있습니다. 따라서 운영 체제는 AI 모델을 특정 클래스의 PC용으로 예약된 프리미엄 기능이 아닌 다른 Windows 구성 요소처럼 취급하기 시작했습니다. 그것은 주목할만한 철학적 변화입니다.
CoPilot+ 독점 제품의 종말이 시작됩니까?
너무 흥분하기 전에 이것이 모든 AI 기능이 갑자기 구형 Windows 시스템에 제공된다는 의미는 아닙니다. Recall, Click to Do 및 일부 Microsoft의 AI 기반 크리에이티브 도구와 같은 기능은 여전히 NPU가 있는 시스템에 연결된 것으로 보입니다. 새로 확장된 지원은 현재 주로 텍스트 기반 AI 경험에 초점을 맞춘 언어 모델 API에 적용됩니다.
하지만 역사에 따르면 이러한 벽이 영원히 유지되는 경우는 거의 없습니다. Microsoft가 로컬 AI가 주류 RTX 하드웨어에서 효과적으로 실행될 수 있음을 입증한 후에는 특정 AI 경험이 NPU에만 국한되어야 하는 이유를 정당화하기가 더 어려워집니다. 개발자는 경험이 잘 작동하는 한 AI 워크로드가 NPU에서 실행되는지 아니면 GPU에서 실행되는지 신경 쓰지 않을 것입니다. 소비자는 확실히 그렇지 않을 것입니다. 이것이 바로 이 업데이트가 문서 변경이 제안하는 것보다 더 중요하게 느껴지는 이유입니다.
현재로서는 단지 하나의 API일 뿐입니다. 그러나 이는 또한 많은 PC 매니아들이 줄곧 말해왔던 것, 즉 유능한 GPU는 결코 문제가 되지 않았다는 것을 인정하기 위한 마이크로소프트의 의미 있는 첫 번째 단계를 나타냅니다. 그리고 로컬 AI가 수백만 대의 기존 RTX 기반 PC에서 완벽하게 잘 실행될 수 있다면 “Copilot+ PC”와 일반 Windows PC 간의 차이는 Microsoft가 원래 기대했던 것보다 훨씬 덜 중요해질 수 있습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요