요즘 AI 챗봇이 얼마나 자연스럽게 대화하는지 눈치채셨을 겁니다. 그들은 당신에게 따뜻하게 인사하고, 당신의 이름을 기억하고, 대화에서 실제 사람처럼 응답합니다. 그러나 Penn State의 새로운 연구에 따르면 동일한 친근감이 조용히 경계심을 낮추어 그것이 말하는 내용이 무엇이든 믿을 가능성이 더 높아질 수 있음을 시사합니다. 심지어 그것이 완전히 틀렸을 때에도 마찬가지입니다.
수다스러운 AI가 예상보다 더 설득력 있는 이유
연구원들은 가짜 AI 건강 보조 장치를 구축하고 477명의 사람들이 그 과정에서 잘못된 정보를 받게 될 것이라는 사실을 인지하지 못한 채 그와 상호 작용하도록 했습니다. 그들은 심지어 생강이 암 치료에 있어 화학요법보다 더 나은 효과를 낼 수 있다는 우스꽝스러운 주장도 포함했습니다.
일부 참가자들은 실제 사람처럼 세부 사항을 기억하고, 잡담을 사용하고, 응답을 점차적으로 타이핑하는 따뜻한 대화 버전을 받았습니다. 다른 사람들에게는 즉각적이고 비인격적인 답변을 제공하는 더 단순하고 로봇적인 버전이 제공되었습니다. 더 친근한 버전과 대화한 사람들은 잘못된 정보를 제공하더라도 답변을 더 신뢰했습니다.
수석 연구원 S. Shyam Sundar가 그 이유를 설명합니다. 대화형 AI와 대화하면 연구원들이 부정적인 기계 휴리스틱이라고 부르는 것이 억제됩니다. 사람이 할 수 있는 방식으로 실제 판단을 내리기에는 기계가 너무 단단하고 기계적이라는 것이 우리의 기본 가정입니다. 회의론이 사라지면 사람들은 실제로 듣는 내용을 면밀히 조사하는 것을 중단합니다.
자신있게 거짓말하는 AI 챗봇에 통하는 습관 하나
또한 팀에서는 확인 옵션을 추가하는 것이 도움이 되는지 여부도 테스트했으며 결과는 명확했습니다. 사용 가능한 확인 버튼을 보는 것만으로는 거의 아무런 효과가 없습니다. 중요한 것은 누군가가 실제로 그것을 클릭하고 실제 증거와 비교하여 주장을 확인했는지 여부였습니다. 추가 단계 없이 AI에 의존하면 의심이 거짓 확신으로 조용히 바뀔 수 있기 때문입니다.
사람들이 주장을 확인하기 시작하자 챗봇에 대한 신뢰도가 크게 떨어졌고 정보의 신뢰성이 눈에 띄게 떨어졌습니다. 자유로운 선택이 주어졌을 때 참가자 중 정확히 절반이 정보 확인을 선택했고 나머지 절반은 정보를 완전히 건너뛰었습니다.
Sundar는 세 가지 간단한 단어로 요점을 요약합니다. 즉, 채팅하되 확인하세요. AI와 자연스러운 대화를 즐기는 것은 좋지만 모든 주장을 확인하지 않고 사실로 취급하는 것은 이 연구가 경고하는 함정입니다. 특히 뉴스 사실 확인을 위해 챗봇에 의존하거나 정직보다 참여에 더 초점을 맞춘 챗봇을 신뢰하는 경우에는 더욱 그렇습니다.
관련 정보는 아래 링크에서 확인하세요