인공 지능이 숙제부터 직장 조사까지 모든 작업에 꼭 필요한 도구가 되면서 많은 사람들이 뉴스 기사가 사실인지 확인하기 위해 ChatGPT, Gemini, Claude 및 Grok과 같은 챗봇을 사용하고 있습니다. 그러나 새로운 연구에 따르면 습관은 실제로 시간이 지남에 따라 사람들이 잘못된 정보를 알아차리는 능력을 더욱 저하시킬 수 있다고 합니다.
MIT 미디어 랩의 새로운 연구에 따르면 뉴스가 정확한지 판단하기 위해 AI에 의존하면 가짜 또는 오해의 소지가 있는 콘텐츠를 독립적으로 식별하는 개인의 능력이 약화될 수 있다는 사실이 밝혀졌습니다. 연구원들은 이 효과를 여행을 더 쉽게 해주지만 점차 사람의 자연스러운 방향 감각을 감소시킬 수 있는 GPS 내비게이션 시스템과 비교했습니다. 마찬가지로, AI 도구는 비판적 사고 능력을 조용히 약화시키면서 사실 확인을 더욱 편리하게 만들 수 있습니다.
이번 연구 결과는 AI 기반 검색과 챗봇이 기존 검색 엔진의 대안으로 점점 더 많이 사용되고 있는 시점에 나온 것입니다. AI가 생성한 요약이 웹 전반에 걸쳐 점점 더 보편화되면서 정확성, 편향, 과도한 의존에 대한 질문을 무시하기가 점점 더 어려워지고 있습니다.
AI로 인해 사용자가 잘못된 정보를 발견하는 데 덜 효과적일 수 있음
MIT 연구진에 따르면, AI 지원에 크게 의존한 참가자들은 스스로 뉴스 기사의 신뢰성을 평가하는 능력이 떨어졌습니다. 우려되는 점은 단순히 AI가 때때로 실수를 할 수 있다는 것이 아니라 사용자가 정보를 직접 평가하는 대신 기술에 대한 판단을 아웃소싱하기 시작할 수 있다는 것입니다.
이러한 우려는 사실 확인에서 AI의 역할을 조사하는 연구가 점점 늘어나면서 더욱 강화되고 있습니다. 이전 연구에서는 대규모 언어 모델이 특히 미묘한 주제, 정치적 주장 또는 빠르게 변화하는 뉴스 이벤트를 다룰 때 정보를 일관되게 확인하는 데 어려움을 겪을 수 있음을 발견했습니다. 연구원들은 또한 다양한 AI 모델과 주제 영역에 걸쳐 성능이 크게 다르다는 점을 지적했습니다.
또 다른 과제는 AI 시스템이 답변이 불완전하거나 부정확한 경우에도 자신있게 답변을 제시하는 경우가 많다는 것입니다. 이는 특히 사용자가 확인이 필요한 보조자가 아닌 챗봇을 신뢰할 수 있는 소스로 취급할 때 잘못된 신뢰감을 조성할 수 있습니다.
MIT 연구원들은 AI가 정보를 요약하거나 관련 맥락을 표면화하는 데 도움이 될 수 있지만 독립적인 평가 및 미디어 활용 능력을 대체해서는 안 된다고 주장합니다.
문제는 정확성뿐만 아니라 의존성입니다.
이번 연구에서 강조된 더 광범위한 문제는 의존성입니다. 사용자가 무엇이 진실인지 판단하기 위해 AI에 점점 더 의존한다면, 출처를 평가하고, 증거를 확인하고, 오해의 소지가 있는 서술 자체를 인식하는 연습이 덜해질 수 있습니다.
AI 도구가 검색 엔진, 소셜 미디어 플랫폼, 브라우저 및 운영 체제에 통합됨에 따라 이러한 위험은 특히 중요해집니다. 여러 소스를 적극적으로 비교하는 대신 사용자는 챗봇의 답변을 최종 단어로 받아들이고 싶은 유혹을 받을 수 있습니다.
연구자들은 AI가 사실 확인에 아무런 역할을 하지 않는다고 주장하지 않습니다. 많은 경우 AI는 사용자가 신속하게 정보를 수집하고, 복잡한 주제를 요약하거나, 검토할 가치가 있는 추가 소스를 식별하는 데 도움이 될 수 있습니다. 하지만 연구에서는 AI가 인간의 판단을 대체하는 것이 아니라 연구 보조자 역할을 할 때 가장 좋은 결과가 나온다고 제안합니다.
요점은 간단합니다. AI는 뉴스 조사에 도움을 줄 수 있지만 귀하를 대신하여 무엇이 사실인지 판단하는 최고의 도구는 아닐 수도 있습니다. 챗봇이 더욱 강력해지고 설득력이 높아짐에 따라 건전한 회의론을 유지하는 것이 기술 자체에 접근하는 것만큼 중요해질 수 있습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요