
ZDNET을 팔로우하세요: 우리를 선호 소스로 추가하세요 Google에서.
ZDNET의 주요 시사점
- Nvidia의 GB10 칩은 최신 AI 모델을 지원합니다.
- 미국은 AI 슈퍼칩에 90억 달러를 원한다.
- 의회는 여전히 자금 지원을 승인해야 합니다.
기술 표준에 의해서도 갑작스러운 AI로의 전환은 기업들이 따라잡기 위해 안간힘을 쓰는 것이 아닙니다. 심지어 미국의 정보기관들도 이를 따라잡기 위해 고군분투하고 있습니다.
또한: AI는 더 똑똑해지는 것이 아니라 점점 더 전력 소모가 심해지고 비용이 많이 듭니다.
이것이 바로 정부가 CIA와 NSA가 Anthropic 및 OpenAI와 같은 대형 AI 플레이어가 수행하는 작업을 따라잡을 수 있도록 슈퍼칩에 대한 90억 달러의 비밀 요청을 승인한 이유입니다.
그렇다면 이 슈퍼칩은 무엇일까요?
최신 AI 모델을 실행하려면 엄청난 양의 컴퓨팅 성능이 필요합니다. 최첨단 현대 데이터 센터의 일부로 제공되는 막대한 전력 공급과 특수 냉각은 말할 것도 없고, 이를 제공하는 실리콘은 미국 수학자 David Blackwell과 미국 컴퓨터 과학자이자 해군의 선구자인 Grace Hopper의 이름을 딴 Nvidia의 Grace Blackwell 슈퍼칩입니다.
또한: Anthropic의 AI 강좌를 통해 Claude Code를 무료로 배우는 방법 – 단 20분 밖에 걸리지 않았습니다.
GB10이라고 불리는 이 슈퍼칩은 Blackwell 아키텍처를 기반으로 하는 Nvidia GPU와 함께 코드명 Grace인 MediaTek에서 만든 20코어 Arm CPU를 갖추고 있습니다. 이 칩에 128GB LPDDR5x(RAM 및 Raspberry Pi 보드 등의 가격을 급등시키는 AI용 메모리에 대한 수요)와 NVMe M.2 SSD 형태의 4TB 스토리지를 추가하면 단 140와트의 전력 소모로 1페타플롭의 FP4 AI 성능을 제공하는 칩이 됩니다. 그게 바로 칩이에요.
대부분의 최신 게이밍 PC가 최대 1,000와트의 전력을 소비할 수 있다는 점을 고려하면 이는 그리 많지 않습니다.
Blackwell 아키텍처 확장이 작동하는 방식.
엔비디아
이 칩 하나에는 700억 개의 매개변수로 AI 모델을 미세 조정할 수 있는 힘이 있습니다. 저장 공간만 놓고 보면 이 모델에는 약 140GB의 공간이 필요합니다.
GB10 시스템을 원하시나요? Best Buy는 랙 버전을 판매합니다. 약 5,000달러부터 시작!
또한: AI의 급증하는 비용에 대해 Google의 TurboQuant가 할 수 있는 것과 할 수 없는 것
그러나 실제 전력 사용량은 이러한 규모를 확장할 때 발생합니다. GB300 NVL72는 단일 수냉식 장치에 최대 72개의 GPU와 36개의 CPU를 갖춘 랙입니다. 이제 이를 데이터 센터 비율로 확장하면 전력 수요가 급증하는 이유를 확인할 수 있습니다.
랙 비용은 180만 달러에서 400만 달러 사이입니다. 그리고 데이터 센터에는 최대 100,000개의 랙이 있을 수 있습니다.
그러나 Anthropic의 Claude, OpenAI의 GPT 5.5 또는 DeepSeek의 V4와 같은 대규모 AI 모델을 실행하려면 이것이 필요합니다.
정부에 왜 이렇게 많은 권한이 필요한가?
AI는 차세대 도구이자 국가 안보 위협으로 간주되며, 이는 정부가 법을 제정하거나 가드레일을 마련할 수 있는 것보다 다시 빠르게 움직이고 있습니다. 얼마 전, AI 기업이 공개 출시에 앞서 최대 90일 동안 정부 테스트를 위해 모델을 “자발적으로 지원”하는 프로세스를 설명하는 계획된 행정 명령이 업계 리더의 압력으로 인해 폐기되었습니다.
Dell GB10 데스크탑 AI 컴퓨터
작은 골짜기
이 명령은 정부가 AI 자체를 활용하기를 원할 뿐만 아니라 대중이 사용하는 모델을 검토할 수 있기를 원한다는 점을 분명히 합니다.
또한: Qualcomm의 새로운 웨어러블 칩셋이 스마트폰 지배력의 종말을 가져올 수 있는 방법
이를 위해서는 심각한 하드웨어 성능이 필요합니다.
지난 몇 년간 컴퓨팅 하드웨어에 대한 투자 부족을 따라잡기 위한 요소도 있습니다. 여기에 칩과 기타 AI 하드웨어의 현재 부족이 더해지면 게임을 계속 유지하기 위해 수십억 달러를 지출해야 한다는 뜻입니다.
여전히 의회의 승인이 필요한 90억 달러를 통해 정부는 AI 게임에서 관련성을 유지하는 데 필요한 인프라와 하드웨어를 모두 확보할 수 있습니다.
GB10 기반 AI 시스템 내부.
작은 골짜기
그러나 칩을 구입하고 데이터 센터를 확장하는 데는 시간이 걸리므로 그 사이에 약 8억 달러의 국방 예산이 더 많은 클라우드 컴퓨팅 성능을 확보하는 데 용도가 변경된 것으로 알려졌습니다. 정보 기관은 또한 Anthropic이 공급망 위협으로 분류되었음에도 불구하고 Mythos라고 불리는 Anthropic이 개발한 고급 AI 모델을 계속해서 활용하고 있습니다.
90억 달러는 빙산의 일각에 불과하다
그리고 그 90억 달러는 큰 액수처럼 들리지만 실제로는 AI의 원대한 계획에 포함되지 않습니다. Amazon Web Services는 정보 기관이 광범위하게 사용하는 플랫폼인 정부 클라우드 컴퓨팅 서비스를 업그레이드하기 위해 500억 달러를 투자하고 있습니다.
또한: 저는 Ollama라는 무료 비공개 로컬 AI를 위해 ChatGPT를 종료했습니다. 그 이유는 다음과 같습니다.
그리고 Grace Blackwell 실리콘의 후속 제품인 미국 천문학자의 이름을 딴 Vera Rubin 플랫폼이 파이프라인에 있습니다. 이 칩은 Vera라는 새로운 맞춤형 Arm 기반 CPU와 Rubin이라는 고성능 GPU를 결합하고 Grace Blackwell에 비해 와트당 최대 10배 더 높은 성능을 제공하고 고성능 HBM4 메모리를 사용하도록 설계되었습니다.
AI는 이제 현대의 군비 경쟁이 되었고, 이를 따라잡으려는 정부는 월간 자금을 투자해야 할 것입니다.
자세한 정보 확인