우리는 모두 거기에 있었습니다. 공중에서 엄지손가락을 치켜세우고 우리가 말하려는 내용을 어떻게든 딱 들어맞는 제안된 단어를 쳐다보았습니다. 그래서 우리는 그것을 탭합니다. 확실히. 그러나 새로운 연구에 따르면 이러한 작은 탭이 몇 초를 절약하는 것보다 더 많은 일을 할 수 있다고 합니다.
이번 주에 발표된 Cornell Tech의 연구 과학 발전AI 기반 자동 완성 제안은 단지 작성 방식만 바꾸는 것이 아니라 실제로 어떻게 작성하는지에도 영향을 미친다는 사실을 발견했습니다. 생각하다. 그리고 당신은 그것이 일어나는 것을 눈치 채지 못할 것입니다.
연구 결과 실제로 무엇을 발견했습니까?
연구자들은 2,500명이 넘는 참가자를 대상으로 두 번의 대규모 실험을 진행하여 사형, 수압파쇄, GMO, 중범죄자 투표권 등 사회적으로 민감한 주제에 대한 짧은 에세이를 작성하도록 요청했습니다.
일부 참가자는 GPT-3 및 GPT-4 계열의 대규모 언어 모델을 사용하여 생성된 특정 방향으로 기울도록 비밀리에 설계된 자동 완성 제안을 받았습니다. 다른 사람들은 아무것도 얻지 못했습니다.
결과는? 편향된 AI로 글을 쓴 사람들은 점차 AI의 입장에 따뜻해졌습니다. 그들이 주장을 설득했기 때문이 아닙니다. 설득력 있는 내용을 읽었기 때문이 아닙니다. 그들의 전화가 계속해서 생각을 마무리했기 때문입니다.
트릭을 아는 것도 마법을 깨뜨리지는 못했습니다.
이제 잠시 전화기를 내려놓아야 할 부분이 있습니다. 연구원들은 일부 참가자들에게 AI에 편견 문제가 있다고 말했습니다. 이는 일종의 “우리가 경고하지 않았다고 말하지 마십시오”라는 면책 조항입니다. 그런 다음 그들은 나중에 다른 사람들에게 보고를 시도했습니다. 대부분의 잘못된 정보 연구에서 이러한 접근 방식은 정신적 백신처럼 작동합니다. 이번에도 둘 다 아무것도 하지 않았습니다.
“문제에 대한 그들의 태도는 여전히 바뀌었습니다.” 자동 완성의 범위가 폭발적으로 확대되었다고 수석 저자인 Mor Naaman이 말했습니다. 이제 Gmail은 사용자를 대신하여 전체 이메일을 작성할 수 있는 기능을 제공합니다.
그러니 다음 번에 휴대폰에서 무언가를 “완전히 지원합니다”라고 제안하면 그 작은 파란색 단어를 다시 한 번 살펴보세요. 귀하의 의견은 탭 한 번으로 다른 사람의 의견이 될 수도 있습니다.