잘못된 조언을 받으면 더 조심스러워질 것이라고 생각할 것입니다. 새로운 연구에 따르면 AI에서 조언을 얻으면 반대 현상이 발생한다고 합니다. University of Milan-Bicocca의 심리학 교수인 Valerio Capraro가 주도한 연구에 따르면 잘못된 AI 조언으로 인해 사람들은 정확도가 떨어지지만 답변에 대한 자신감이 눈에 띄게 높아졌습니다(IBM Think를 통해).
이 연구는 또한 잘못된 AI 조언을 받은 사람들은 침묵을 지킬 수 있는 경우에도 답을 모른다는 사실을 훨씬 덜 인정하고 정확성에 대해 보상을 받았다는 사실을 발견했습니다.
잘못된 AI 조언이 사람들을 그렇게 확신하게 만드는 이유는 무엇입니까?
연구자들은 참가자들에게 모호한 영화 세부 사항에 대해 6가지 질문을 했고, AI 모델이 지속적으로 부정확하게 대답한 질문을 의도적으로 선택했습니다. 이를 통해 AI의 조언이 실제로 좋은지 여부에 관계없이 사람들이 AI에 문의할 때 어떤 일이 발생하는지 격리할 수 있습니다.
결과는 놀라웠습니다. AI가 없으면 참가자들은 두 번의 실험에서 대략 36~44%의 시간 동안 답변을 거부했습니다. AI를 사용할 수 있게 되면 그 비율은 3~6%로 떨어졌습니다. 정확도도 혼자 작업할 때 27.5%에서 AI가 포함된 경우 9.2%로 떨어졌습니다.
Capraro는 AI가 답변을 결정하기 전에 사람들이 필요로 하는 신뢰도를 낮추어 본질적으로 자신의 확실성을 판단하는 방식을 바꿀 수 있다고 의심합니다. 이상하게도 이는 요청하지 않고 AI 조언이 자동으로 나타나는 경우에도 적용되었으며, 이는 그 효과가 단순히 적극적으로 도움을 구하는 것만이 아니라는 것을 시사합니다.
지분을 높이면 변화가 있나요?
금전적 보상과 처벌을 추가하면 사람들이 좀 더 조심성과 정확성을 갖게 되었지만 근본적인 패턴은 완전히 사라지지 않았습니다. 카프라로는 여기서 분명한 차이를 보인다. AI는 인간의 판단력을 완전히 대체하는 것이 아니라 인간의 판단력을 강화해야 합니다.
그는 즉각적인 답을 얻으며 자라면서 아이들이 학습의 일환으로 의심을 경험하는 것을 막을 수 있기 때문에 이러한 효과가 아이들에게도 확장될 것이라고 걱정합니다. 새로운 보고서에 따르면 AI에 푹 빠진 젊은 세대는 직접 대화를 할 때에도 챗봇의 도움을 받고 있는 것으로 나타났습니다. Capraro가 말했듯이 의심은 지식의 실패가 아닙니다. 실제 지식이 실제로 시작되는 곳인 경우가 많습니다.
관련 정보는 아래 링크에서 확인하세요