Anthropic과 ETH Zurich의 과학자들이 참여한 새로운 연구에 따르면 현대 인공 지능 시스템은 익명으로 추정되는 인터넷 계정 뒤에 있는 실제 신원을 식별할 수 있다고 합니다. arXiv에 사전 인쇄로 발표된 이 연구는 대규모 언어 모델(LLM)이 온라인 활동을 분석하고 가명 프로필을 대규모의 실제 개인과 연결할 수 있음을 보여줍니다.
LLM을 통한 대규모 온라인 비익명화라는 제목의 이 연구에서는 AI 에이전트가 익명 또는 가명 온라인 계정을 실제 신원에 연결하는 행위인 비익명화 프로세스를 자동화할 수 있는 방법을 탐구합니다. 전통적으로 이 프로세스에는 게시물, 글쓰기 스타일, 흩어져 있는 온라인 단서를 검색하는 분석가의 상당한 수동 조사가 필요했습니다. 그러나 연구원들은 현대 AI 모델이 이러한 많은 단계를 자동으로 수행할 수 있음을 보여줍니다.
이번 연구에서 AI 시스템은 온라인 플랫폼의 공개 텍스트를 분석해 개인적 관심사, 인구통계학적 단서, 글쓰기 스타일, 게시물에 드러난 부수적 세부정보 등 신원 관련 신호를 추출했다. 그런 다음 AI는 웹에서 일치하는 프로필을 검색하고 단서가 알려진 개인과 일치하는지 평가했습니다.
이 방법을 테스트하기 위해 연구자들은 알려진 실측 신원을 사용하여 여러 데이터 세트를 만들었습니다.
한 실험에서는 이름이나 사용자 이름과 같은 명백한 식별자를 제거한 후에도 Hacker News 사용자를 LinkedIn 프로필과 일치시키려고 시도했습니다. 또 다른 데이터 세트에는 다양한 커뮤니티에 걸쳐 가명 Reddit 계정을 연결하는 것이 포함되었습니다. 세 번째 데이터 세트는 단일 사용자의 게시 기록을 두 개의 별도 프로필로 분할하여 AI가 해당 사용자가 동일한 사람에 속했는지 식별할 수 있는지 확인합니다.
결과는 LLM 기반 시스템이 기존 비익명화 기술보다 훨씬 뛰어난 것으로 나타났습니다. 어떤 경우에는 모델이 약 90%의 정밀도로 최대 68%의 재현율을 달성했습니다. 이는 AI가 상대적으로 낮은 오류율을 유지하면서 많은 계정을 올바르게 식별했음을 의미합니다. 동일한 실험에서 기존 방법은 거의 성공하지 못했습니다.
연구원들은 이 연구 결과가 한때 인간 조사관이 몇 시간씩 작업해야 했던 작업을 AI가 어떻게 복제할 수 있는지를 강조한다고 말합니다. AI 시스템은 텍스트에서 신원 관련 특징을 자동으로 추출하고, 수천 개의 프로필 중에서 잠재적인 일치 항목을 검색하고, 어떤 후보자가 가장 정확할 지 추론할 수 있습니다.
익명성은 오랫동안 많은 인터넷 사용자를 위한 기본 보호 수단으로 간주되어 왔기 때문에 이러한 발전은 중요합니다.
가명 계정은 실제 신원을 밝히지 않고 민감한 주제를 논의하려는 언론인, 내부 고발자, 활동가 및 일반 개인이 널리 사용합니다.
연구에 따르면 AI 시스템이 플랫폼 전반에 걸쳐 디지털 단서를 연결하는 능력이 향상됨에 따라 ‘실질적인 모호성’이라고도 불리는 이러한 보호 계층이 약화될 수 있다고 합니다. 자동화된 도구가 이 작업을 빠르고 저렴하게 수행할 수 있다면 익명 사용자를 식별하는 장벽이 크게 낮아질 수 있습니다.
연구원들은 실험 파이프라인을 사용하여 온라인 계정을 식별하는 데 드는 비용이 프로필당 1~4달러에 이를 수 있다고 추정합니다. 이는 대규모 조사가 상대적으로 저렴하게 수행될 수 있음을 의미합니다.
그러나 저자들은 또한 연구가 공개 데이터를 사용하여 통제된 환경에서 수행되었다는 점을 지적합니다. 이 논문은 아직 동료 검토를 거치지 않았으며 연구원들은 오용 위험을 줄이기 위해 의도적으로 일부 기술적 세부 사항을 공개하지 않았습니다.
그럼에도 불구하고 이번 연구 결과는 이미 개인 정보 보호 전문가와 기술 전문가들 사이에서 논쟁을 불러일으켰습니다.
이 연구는 개인이 익명으로 보이는 공간에서도 온라인에 얼마나 많은 개인 정보를 공개하는지 재고해야 할 수도 있음을 시사합니다. 연구원들은 앞으로 AI 기반 비익명화에 대한 위험과 가능한 방어 수단을 모두 이해하기 위해서는 추가 작업이 필요하다고 말합니다. 잠재적인 솔루션에는 향상된 개인 정보 보호 도구, 더욱 강력한 플랫폼 보호 장치 또는 민감한 데이터를 공개적으로 공유하기 전에 익명화하도록 설계된 AI 시스템이 포함될 수 있습니다.
인공 지능이 대량의 온라인 콘텐츠를 분석하는 능력이 향상됨에 따라 이 연구는 AI 기반 발견의 힘과 디지털 시대의 개인 정보 보호 필요성 사이의 균형을 맞추는 점점 더 많은 과제를 강조합니다.