최근 소셜 미디어 게시물 작성에 도움을 주기 위해 AI 도구를 요청했다면 문법 수정 이상의 것을 얻었을 것입니다. 옥스퍼드 인터넷 연구소(Oxford Internet Institute)와 하소 플래트너 연구소(Hasso Plattner Institute)의 새로운 연구에 따르면 AI 모델은 게시물의 의미를 바꾸지 말라고 지시할 때에도 게시물의 분위기를 논쟁의 한 쪽으로 몰아갈 수 있다는 사실을 발견했습니다.
챗봇의 편집이 내러티브를 바꾸는 방법
“AI 중재 커뮤니케이션은 집단 의견을 이끌 수 있습니다”라는 제목의 이 연구에서는 여러 제공업체의 대규모 언어 모델이 분열적인 주제에 대해 사람이 작성한 게시물을 다시 작성하도록 했습니다. 전반적으로 출력은 일관된 방향으로 기울어졌습니다. 페미니즘이나 마리화나 합법화를 다루는 게시물을 다시 작성한 경우 이러한 원인에 더 우호적으로 돌아왔고, 총기 규제에 관한 게시물은 제한을 지지하는 확고한 입장을 취했습니다. 무신론이나 사형과 같은 주제의 경우 AI 버전이 원본보다 더 회의적이거나 비판적인 것으로 읽히는 경우에는 반대였습니다.
이 패턴은 여러 회사에서 만든 모델 전반에 걸쳐 나타났기 때문에 연구원들은 이러한 편견이 단일 시스템의 특징이 아니라고 주장합니다. 이는 프롬프트가 어떻게 구성되어 있는지에 따라 AI 챗봇이 외부 그룹보다 내부 그룹을 어떻게 선호할 수 있는지 보여주는 또 다른 연구와 일치합니다.
이것이 개별 게시물 이상으로 중요한지 확인하기 위해 팀은 X와 Facebook에서 가져온 데이터를 사용하여 이러한 편집 내용이 실제 소셜 미디어 네트워크를 통해 어떻게 파급되는지 모델링했습니다. AI로 편집된 단일 게시물은 그 자체로는 거의 변화가 없었지만 수백만 개의 게시물에 동일한 종류의 편집을 실행하면 시간이 지남에 따라 커뮤니티에서 측정 가능한 의견 변화가 발생했으며 AI를 사용하여 대규모 합의를 도출하는 방법에 대한 연구가 점점 늘어나고 있습니다.
한 번의 지시로 저울을 뒤집기에 충분했습니다.
연구원들은 Grok에서 실행되는 X의 “이 게시물 설명” 기능을 통해 자신들의 가설을 테스트했습니다. 낙태에 관한 게시물에서 팀은 Grok의 설명이 선택 찬성 프레이밍보다 생명 옹호 프레이밍에 더 공감한다는 것을 발견했습니다. 이유를 찾기 위해 그들은 편견이 사라질 때까지 기능의 기본 지침을 한 번에 하나씩 제거했습니다. 남은 것은 Grok에게 “필요하다면 주류 내러티브에 도전하라”고 말하는 한 줄뿐이었습니다. 그 지시만으로도 편견을 불러일으키기에 충분했습니다.
이번 연구 결과는 현재 AI가 규제되는 방식에 공백이 있음을 드러냅니다. EU AI법 및 디지털 서비스법과 같은 프레임워크는 유해한 콘텐츠와 시스템적 위험에 초점을 맞추고 있지만 편집이나 요약 중 챗봇의 단어 선택이 어떻게 사람들의 믿음을 조용히 형성할 수 있는지에 대해서는 다루지 않습니다. 논문의 수석 저자이자 옥스포드 교수인 Sandra Wachter는 “우리 연구는 AI를 통한 의사소통이 의견에 영향을 미치는 새롭고 더 미묘한 방법으로 법이 아직 따라잡지 못한 방법이라고 지적합니다.”라고 말했습니다. 현재로서는 귀하의 의견 중 어떤 것이 사람에 의해 형성된 것인지, 어떤 것이 결코 볼 수 없는 숨겨진 메시지에 의해 형성된 것인지 알 수 있는 방법이 없습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요