OpenAI, Anthropic 및 기타 AI 회사의 리더들은 대중을 인공 지능에 반대하게 만들 수 있는 잠재적인 AI 재난에 대비하고 있는 것으로 알려졌습니다. Axios 보고서에 따르면 업계 리더들은 치명적인 AI 사고 이후 어떤 일이 발생할 수 있는지에 대한 가능한 시나리오를 비공개로 검토하고 있습니다.
기업들은 어떤 AI 재난을 준비하고 있을까?
해당 시나리오는 금융 서비스, 인터넷 연결, 전기 또는 물 공급을 방해하는 대규모 사이버 공격에 초점을 맞춘 것으로 알려졌습니다. 보고서에 따르면 경영진은 테스트 환경을 탈출하는 악성 AI 에이전트나 공개적으로 사용 가능한 모델을 악용하는 악의적인 행위자와 관련된 시나리오를 고려하고 있습니다.
AI 업계 관계자들은 이런 공격이 일어날지 여부가 아니라 언제 일어날지가 문제라고 생각한다.
다수의 AI 업계 관계자는 Axios에 향후 6~12개월 내에 대규모 사이버 공격으로 인해 촉발될 가능성이 큰 중대한 사고가 발생할 것으로 예상한다고 말했습니다. 이것도 순수한 추측은 아니다. Axios는 최근 한국 금융 기관을 대상으로 한 캠페인을 지적합니다. 악성 AI 에이전트가 두 은행을 공격한 것으로 알려졌습니다. 사이버 보안 회사인 CrowdStrike는 공격자가 DeepSeek과 같은 중국이 개발한 모델을 포함한 AI 도구에 의존했으며 심지어 Claude Code를 사용하여 훔친 데이터를 판매할 장소를 찾았다고 밝혔습니다.
치명적인 사건이 발생하면 AI 리더들은 심각한 대중적, 정치적 반발을 예상합니다. 그들은 AI와 Anthropic의 Dario Amodei 및 OpenAI의 Sam Altman을 포함하여 AI의 가장 잘 알려진 리더에 대해 이미 회의적인 대중이 바뀔 것으로 기대합니다. OpenAI는 자사의 준비 훈련이 다양한 시나리오를 불가피한 것으로 간주하지 않고 탐색한다고 밝혔지만 Anthropic은 논평을 거부했습니다.
AI 기업들은 정치적 낙진에 어떻게 대비하고 있나요?
이러한 민간 계획의 대부분은 최악의 시나리오를 테스트하고 분노에 찬 법안이 작성되기 전에 의회에 보고할 준비를 하는 데 중점을 두고 있습니다. 분명히 경영진은 실제 규제가 오늘 통과될 가능성이 거의 없다고 생각하지만 여전히 심각한 사건 이후 국회의원이 고려하는 모든 규칙에 영향을 미치기를 원합니다.
제안된 대응은 고급 AI 개발을 완전히 일시 중지하는 것부터 초지능을 전면적으로 금지하는 것까지 다양합니다. 별도의 초당파적 지원을 받는 아이디어에는 고급 AI 시스템에 대한 킬 스위치가 필요하지만 전문가들은 모든 AI 시스템이 현실적으로 차단될 수 있는지 의문을 제기합니다.
어떤 정책도 단독으로 해결할 수 없는 더 큰 문제
이 모든 것 밑에는 두 가지 더 깊은 합병증이 있습니다. AI 인프라는 이제 경제에 너무 깊이 내장되어 의미 있는 제한이 실제 경제 혼란을 초래할 위험이 있습니다. 동시에, 이미 많은 AI 모델이 무료로 다운로드 가능합니다. 따라서 기업은 AI가 세상에 출시된 후 사람들이 AI를 오용하는 방식을 통제할 수 없습니다.
이 계획 중 어느 것도 재앙이 확실히 일어날 것이라는 것을 증명하지 못합니다. 이것이 시사하는 바는 일부 AI 지도자들이 실제 위기가 닥치기 전에 정책 입안자들이 대비하기를 원할 정도로 가능성을 심각하게 받아들이고 있다는 것입니다.
관련 보도:
관련 정보는 아래 링크에서 확인하세요