우리 대부분은 이제 AI 챗봇과 검색 엔진을 사용하여 정보를 얻습니다. Google조차도 답변을 수집한 소스를 안내하기 전에 먼저 AI 요약을 보여줍니다.
Yale의 새로운 연구에 따르면 AI가 생성한 답변은 빠르고 편리하며 읽기 쉽지만 우리의 의견에도 영향을 미칠 수 있습니다. 예일대 사회학 조교수인 다니엘 카렐(Daniel Karell)과 그의 팀은 AI가 작성한 역사적 사건 요약을 읽는 것이 사람이 작성한 요약을 읽는 것보다 사람들이 학습하는 데 더 도움이 되는지 알아보고 싶었습니다.
이를 테스트하기 위해 참가자들에게는 역사적 사건에 대한 짧은 요약이 표시되었습니다. 일부는 인간이 작성한 것이고 다른 일부는 ChatGPT와 같은 AI 도구를 사용하여 작성한 다음 기억하는 내용에 대해 퀴즈를 냈습니다.
결과는? AI가 작성한 요약을 읽는 사람들은 지속적으로 더 많은 질문에 올바르게 답했습니다.
AI가 인간보다 정보를 전파하는 데 더 나은가요?
Karell은 이를 AI가 정보를 제공하는 방식에 기인한다고 생각합니다. “모델이 Wikipedia를 가져와서 더 읽기 쉽게 만든 것과 같습니다.”라고 그는 말했습니다. AI 요약은 참가자가 AI 생성 콘텐츠를 읽고 있다는 것을 알고 있는지 여부에 관계없이 더 부드럽고 명확하며 유지하기가 더 쉬웠습니다.
즉, 사람들은 요약이 AI에 의해 작성되었다는 말을 들었을 때에도 인간이 작성한 버전보다 요약에서 더 많은 것을 배웠습니다.
이것이 당신을 걱정해야 합니까?
여기가 흥미로워지는 곳입니다. PNAS Nexus에 발표된 후속 논문에서 동일한 연구자들은 AI 요약이 더 나은 교육을 제공할 뿐만 아니라 정치적 의견에도 영향을 미친다는 사실을 발견했습니다.
AI 요약이 진보적인 성향을 띠었다면 독자들은 좀 더 진보적인 의견을 내놓았습니다. 보수적인 성향은 반대 효과를 가져왔습니다. 연구자들은 AI가 사실을 제시하는 데 그치지 않고 보다 논리적이고 설득력 있게 느껴지는 방식으로 구성하기 때문에 이런 일이 발생한다고 믿습니다.
AI 도구는 사람들이 역사와 현재 사건에 대해 배우는 기본 방법이 되고 있습니다. 그것이 반드시 나쁜 것은 아닙니다. 그러나 당신이 배우는 내용을 형성하는 도구가 당신이 생각하는 것을 조용히 형성할 수도 있다는 것을 아는 것은 명심할 가치가 있는 것입니다.
동시에 AI 환각은 여전히 중요한 문제로 남아 있으며 AI가 생성한 요약은 인간에게 훨씬 더 오해를 불러일으킬 수 있습니다. USC 정보 과학 연구소(Information Sciences Institute) 연구원들이 실시한 연구에 따르면 AI 시스템은 최소한의 인간 입력으로 선전 캠페인을 실행할 수 있는 것으로 나타났습니다.
여기에 AI가 인간보다 더 설득력이 있을 수 있다는 생각을 더한다면, 이러한 도구가 어떻게 인간의 사고와 추론을 조작하여 우리를 더 분열된 세계로 인도할 수 있는지 생각하는 것은 무섭습니다.