서던캘리포니아대학교(University of Southern California)의 새로운 연구에서는 AI 프로그램이 이제 인간의 개입 없이 선전 캠페인을 실행할 수 있다고 경고합니다.
이 연구는 대선이 있기 2주 전에 수천 개의 게시물이 X, Reddit, Facebook에 넘쳐나고 모두 동일한 이야기를 추진하고 서로 증폭시키는 시나리오를 상상해 보도록 요청합니다. 마치 인간이 만들어낸 유기적인 움직임처럼 보일 수도 있다. 대신 전체 캠페인을 실행하는 AI 에이전트입니다.
그것은 가설이 아닙니다. 이는 USC 정보 과학 연구소(Information Sciences Institute)의 연구자들이 작성한 The Web Conference 2026에서 출판이 승인된 새로운 논문의 핵심 결과입니다.
이번 연구 결과는 악의적인 행위자가 어떻게 AI를 무기화하여 인터넷에 잘못된 정보를 넘치게 하고 여론을 조작할 수 있는지에 대한 심각한 우려를 강조합니다.
연구자들은 어떻게 이런 결론에 이르렀습니까?
연구원들은 50개의 AI 에이전트(인플루언서 역할을 하는 에이전트 10개, 일반 사용자 역할을 하는 에이전트 40개)로 시뮬레이션된 X와 유사한 환경을 구축했습니다. 40명의 정규 에이전트 중 20명의 에이전트는 인플루언서와 일치하는 견해를 갖고 있었고 나머지 20명은 캠페인에 반대하는 견해를 가지고 있었습니다. 연구원들은 PyAutogen 라이브러리를 사용하여 시뮬레이션을 구축하고 Llama 3.3 70B 모델에서 실행했습니다.
그런 다음 운영자는 캠페인 해시태그를 널리 퍼뜨리는 것을 목표로 가상의 후보자를 홍보하는 임무를 맡았습니다. 뒤따른 일은 불안했습니다. 봇은 단순히 스크립트를 따르지 않았습니다. 그들은 자신의 게시물을 작성하고, 효과적인 방법을 배우고, 서로의 성공적인 콘텐츠를 복사했습니다.
한 AI 에이전트는 말 그대로 팀 동료의 게시물이 이미 참여를 얻었기 때문에 리트윗하고 싶다고 썼습니다. 연구원들은 나중에 AI 에이전트의 수를 500개로 늘렸고 그 결과가 자신들의 연구 결과와 일치한다는 사실을 발견했습니다.
수석 과학자 Luca Luceri는 “우리 논문은 이것이 미래의 위협이 아니라는 것을 보여줍니다. 이미 기술적으로 가능합니다.”라고 말했습니다.
무엇이 이 봇을 잡기 어렵게 만드는가?
전통적인 봇은 예측 가능합니다. 그들은 동일한 콘텐츠를 게시하고, 동일한 해시태그를 사용하며, 동일한 패턴을 따릅니다. 마치 모두가 동일한 스크립트를 따르는 것 같아서 쉽게 알아볼 수 있습니다.
AI 기반 로봇은 다릅니다. 이러한 LLM 기반 봇은 자체 콘텐츠를 만들 수 있기 때문에 모든 게시물이 약간씩 다르며 표면 아래에서 조정이 이루어지므로 대화가 진실되게 느껴집니다. 그 결과 최소한의 인력 투입으로 자율적으로 운영될 수 있는 허위 정보 캠페인이 탄생했습니다.
가장 놀라운 발견은 팀원이 누구인지 봇에게 알려주는 것만으로도 적극적으로 함께 계획을 세웠을 때와 마찬가지로 강력한 협력이 이루어졌다는 것입니다.
위협은 선거에서도 끝나지 않습니다. Luceri는 동일한 플레이북이 공중 보건, 이민, 경제 정책에 적용될 수 있으며, 어디에서나 만들어진 합의가 여론을 바꿀 수 있다고 경고합니다.
이를 막기 위해 무엇이든 할 수 있나요?
이러한 종류의 캠페인은 개별 사용자가 감지하고 중지하기 어렵습니다. 연구원들은 개별 게시물을 넘어 계정이 어떻게 함께 작동하는지에 초점을 맞춰 이러한 잘못된 정보 캠페인을 중단할 책임을 플랫폼에 부여했습니다.
연구자들에 따르면, 조정된 재공유, 신속한 상호 증폭, 내러티브 수렴은 콘텐츠가 진짜처럼 보이는 경우에도 모두 감지 가능한 신호입니다.
솔직히 AI는 우리를 새로운 세계로 안내했고, 나아지기 전에는 훨씬 더 어두워질 것입니다.