인공 지능은 이메일 작성, 회의 요약부터 학생들의 학습 또는 개발자의 코드 디버깅 지원에 이르기까지 모든 작업에 빠르게 사용되는 도구가 되었습니다. 그러나 사람들의 시간을 절약해 주는 동일한 기술이 오용될 수도 있으며, 새로운 보고서에 따르면 테러리스트 조직은 정확히 그렇게 하는 방법을 찾고 있습니다.
출간에 앞서 뉴욕타임즈와 공유한 연구 논문에 따르면, 연구원들은 보코하람 조직원들이 일상 활동과 전투 관련 작업을 모두 지원하기 위해 인기 있는 AI 챗봇을 사용해 왔다는 증거를 발견했습니다. 지난 2년 동안 나이지리아에서 실시된 전 회원 27명과의 인터뷰에 따르면 ChatGPT, Gemini, Claude, Grok, Meta AI 및 DeepSeek와 같은 도구가 기술 정보 수집, 무기 문제 해결, 심지어 공격 계획 지원에도 사용된 것으로 나타났습니다.
나쁜 배우 몇 명이 장난을 치는 게 아니었어
이번 발견이 특히 우려되는 점은 이것이 AI를 실험하는 몇몇 개인의 작업으로 설명되지 않았다는 점입니다. 보고서는 그룹의 AI 사용이 전담 팀, 내부 교육 및 구성원 간 지식 공유를 통해 조직화되었다고 주장합니다. 연구원들은 또한 일부 사용자가 AI가 폭력과 관련된 요청에 응답하는 것을 방지하도록 설계된 내장된 안전 보호 기능을 우회했다고 말했습니다.
그렇다고 해서 오늘날의 AI 챗봇이 필요에 따라 위험한 지침을 전달한다는 의미는 아닙니다. 연구의 대부분은 2024년 말까지의 활동에 초점을 맞추고 있으며, AI 회사들은 최신 버전의 모델에 더 강력한 보호 장치가 포함되어 있다고 말합니다. 그들은 또한 많은 프롬프트가 회색 영역에 속한다고 지적합니다. 예를 들어, AI에게 오토바이 수리 방법이나 기본 화학 이해 방법을 묻는 것 자체는 유사한 정보가 오용될 수 있지만 그 자체로는 해롭지 않습니다.
지금의 과제는 한 발 앞서 나가는 것입니다.
OpenAI는 The New York Times에 테러나 폭력을 지원하기 위해 ChatGPT를 사용하는 것은 정책을 위반하며 남용에 대한 방어를 계속 개선하고 있다고 말했습니다. Meta는 마찬가지로 이번 연구가 주로 이전 버전의 AI 모델을 대상으로 했으며 그 이후로 안전 조치를 강화했다고 밝혔습니다. 한편, 보고서에 따르면 xAI와 DeepSeek은 논평 요청에 응답하지 않았습니다.
보안 전문가들은 또한 AI가 갑자기 테러리스트 그룹에 초인적인 능력을 부여한다고 가정하는 것에 대해 경고합니다. 공격을 계획하고 실행하는 것은 여전히 실제 물류, 자금, 커뮤니케이션, 인간의 조정에 달려 있습니다. 이러한 요소들은 챗봇이 대체할 수 없습니다. 대신 연구원들은 AI가 위협 환경을 극적으로 변화시키는 것보다 경험이 부족한 구성원을 어느 정도 더 유능하게 만들 가능성이 더 높다고 믿습니다. 그럼에도 불구하고, 보고서는 AI 안전 대화가 단지 숙제를 부정하는 학생들이나 가짜 이미지를 생성하는 사람들에 관한 것이 아니라는 점을 상기시켜줍니다. AI 모델의 성능과 접근성이 향상됨에 따라 기업은 강력한 도구가 합법적인 사용자에게 유용하면서도 악의적인 행위자가 악용하기가 점점 더 어려워지도록 해야 한다는 압력에 계속 직면하게 될 것입니다.
관련 정보는 아래 링크에서 확인하세요