AI가 생성한 정보 오류로 인해 중국 선박이 핵무기 프로그램과 관련된 부품을 운송하고 있다는 잘못된 보고가 나온 후 미군이 중국과의 대결에 위험할 정도로 가까워진 것으로 알려졌습니다.
2026년 9월 18일 발표된 CNN 조사에 따르면 이 보고서는 이란과의 전쟁 당시 미군 내부에 퍼졌다. 정보부는 무장 인력이 탑승할 준비가 되어 있고 군용 항공기가 이미 이륙한 상태에서 선박을 요격할 준비를 촉발했습니다.
관계자들은 계획된 작업 직전에야 문제를 발견했습니다. 심층 검토 결과 분석가가 AI 챗봇을 사용하여 선박 화물에 대한 정보를 해석했으며 시스템이 운송 중인 자재를 잘못 식별한 것으로 나타났습니다. 한 소식통은 이 보고서가 “완전히 거짓”이라며 “거의 전쟁이 시작됐다”고 말했다.
AI 오류가 군사 정보 보고서에 어떻게 도달했나요?
이번 사건은 특수작전사령부 분석가가 챗봇에 선박 적하목록 관련 정보를 문의하면서 시작된 것으로 알려졌다. AI 시스템은 오픈소스 정보와 기밀 신호 인텔리전스를 결합해 화물에 대해 부정확한 결론에 도달했습니다.
그런 다음 분석가는 AI를 다시 사용하여 조사 결과를 공식 정보 보고서로 정리하고 군 관계자에게 배포했습니다. CNN은 챗봇이 상용 제품인지 정부가 개발한 도구인지 확인할 수 없었다.
이 에피소드는 군사 의사 결정에 AI를 사용할 때 발생하는 주요 문제를 강조합니다. 잘못된 답변은 디지털 시스템에서 실제 작전으로 빠르게 이동할 수 있습니다.
민감한 군사 결정을 내릴 때 AI를 신뢰해야 합니까?
이 사건은 근본적인 질문을 제기합니다. 하나의 오류가 충돌로 확대될 수 있는 민감한 군사 절차에 AI를 사용해야 하는가? AI는 지능을 빠르게 처리할 수 있지만 부정확한 결과, 제한된 투명성, 불분명한 책임은 심각한 위험을 야기합니다.
미국과 중국의 보안 전문가들은 핵 시스템, 중요한 사이버 작전 및 의미 있는 인간 감독을 포괄하는 보호 장치를 요구했습니다.
Xiangshan 포럼의 토론에서는 인간이 개입할 수 있는 것보다 더 빠르게 확대되는 자동화된 군사 대응에 대한 우려도 강조되었습니다. AI는 군사 분석을 지원할 수 있지만 무력, 핵 시스템 또는 잠재적 대결과 관련된 결정에는 엄격한 검증, 명확한 책임 및 의미 있는 인간 통제가 필요합니다.
AI 채택으로 군사적 보호 장치에 대한 의문 제기
미군은 정보 분석, 표적 선택, 군수, 전장 결정 등 AI 활용을 빠르게 확대하고 있다. 국방 관계자들은 잠재적인 적과의 경쟁력을 유지하려면 이 기술을 신속하게 채택하는 것이 필요하다고 주장합니다.
그러나 군대의 AI 시스템은 다양한 도구와 안전 표준을 사용하여 여러 부서에서 운영되는 것으로 알려졌습니다. 관계자들은 AI가 생성한 정보를 검증하는 방법을 관리하는 단일 표준이 없다고 CNN에 말했습니다.
대중에게 이 사건은 결정이 심각한 결과를 초래할 수 있는 경우 AI에 얼마나 많은 권한을 부여해야 하는지에 대한 의문을 제기합니다. 인간이 계속 참여하더라도 속도와 잘못된 자신감은 실수의 위험을 증가시킬 수 있습니다.
다음 단계에는 AI 지원 정보 보고서에 대한 면밀한 조사와 더욱 강력한 검증 요구 사항이 포함될 수 있습니다. 특히 정보가 다른 국가와 관련된 군사 목표 또는 작전에 사용될 경우 더욱 그렇습니다. CNN은 또한 잘못된 보고서에 대한 조사가 필요하다고 보도했으며, 이는 책임과 보호 장치가 군사 AI에 대한 광범위한 논쟁의 중심이 될 수 있음을 시사했습니다.
관련 정보는 아래 링크에서 확인하세요