컴퓨팅은 종종 정확성과 속도로 유명합니다. 그러나 연구원과 대규모 데이터 센터 운영자는 컴퓨팅의 핵심 약속 중 하나인 정확성에 도전하는 위협이 증가하고 있다고 경고하고 있습니다. 이 문제는 SDC(자동 데이터 손상)로 알려져 있습니다. 하드웨어 결함으로 인해 프로그램이 충돌하거나 오류를 유발하거나 눈에 띄는 흔적을 남기지 않고 잘못된 결과를 생성하는 현상입니다.
최신 칩 내부의 보이지 않는 위협
우려의 중심에는 CPU, GPU, AI 가속기의 실리콘 결함이 있습니다. 이러한 결함은 칩 설계, 제조 중에 발생할 수 있으며 노후화 또는 환경 요인으로 인해 나중에 발생할 수도 있습니다. 제조업체에서는 대부분의 결함을 검사하지만 가장 엄격한 생산 테스트를 통해서도 모델링된 결함의 약 95%~99%만 찾아낼 수 있습니다. 일부 결함이 있는 칩은 필연적으로 현장에 출시됩니다.
어떤 경우에는 이러한 결함으로 인해 시스템 충돌과 같은 눈에 띄는 오류가 발생합니다. 그러나 더 문제가 되는 것은 소리 없는 오류입니다. 여기서 결함이 있는 논리 게이트나 연산 장치는 실행 중에 잘못된 값을 생성할 수 있습니다. 해당 값이 감지 메커니즘을 트리거하지 않고 프로그램을 통해 전파되면 시스템은 작업을 완료하고 잘못된 출력을 반환합니다. 아무 것도 잘못되었다는 표시는 없습니다.
수십 년 동안 많은 사람들은 SDC가 드물고 거의 신화적인 사건이라고 믿었습니다. 그러나 Meta, Google, Alibaba를 포함한 주요 하이퍼스케일 운영업체는 자사 제품군의 CPU 1,000개 중 약 1개가 특정 조건에서 소리 없이 손상될 수 있음을 공개했습니다. GPU와 AI 가속기에서도 비슷한 우려가 보고되었습니다.
정확성은 컴퓨팅의 기본 속성입니다. 금융 거래 처리, AI 추론 실행, 인프라 관리 등 시스템은 엄격한 시간 제약 내에서 정확한 결과를 제공할 것으로 기대됩니다.
조용한 부패는 그러한 신뢰를 약화시킵니다. 즉각적으로 확인되고 즉각적인 조사가 이루어지는 충돌과 달리 SDC는 조용히 출력을 변경합니다. 수백만 개의 코어를 운영하는 데이터 센터에서는 작은 결함률이라도 하루에 수백 건의 잘못된 프로그램 결과로 이어질 수 있습니다.
현대 컴퓨팅의 규모는 문제를 더욱 심화시킵니다.
GPU 및 AI 가속기와 같은 대규모 병렬 아키텍처에는 수천 개의 산술 단위가 포함되어 있습니다. 시스템에 포함된 구성 요소가 많을수록 일부 구성 요소에 결함이 있을 가능성이 통계적으로 높아집니다.
SDC를 직접 측정하는 것은 거의 불가능합니다. 정의상 SDC는 침묵합니다. 따라서 업계에서는 요율을 추정하고 예방 비용을 평가해야 합니다. 감지 및 수정 메커니즘이 존재하지만 실리콘 면적, 에너지 소비 및 성능 오버헤드를 크게 증가시킬 수 있습니다.
연구원들은 향상된 제조 테스트, 데이터 센터의 차량 수준 모니터링, 더 스마트한 결함 추정 모델, 오류가 전파되기 전에 포함하는 하드웨어-소프트웨어 공동 설계 접근 방식을 포함한 다층 솔루션을 요구하고 있습니다.
컴퓨팅 시스템이 점점 더 커지고 빨라짐에 따라 과제는 분명해졌습니다. 지속 불가능한 비용 없이 속도와 정확성을 모두 유지해야 한다는 것입니다. 일부 사람들이 “복잡성의 황금기”라고 부르는 이 시대에는 컴퓨팅의 신뢰성을 보장하는 것이 업계를 정의하는 엔지니어링 전투 중 하나가 될 수 있습니다.