저는 주로 업무용으로 ChatGPT를 많이 사용합니다. 하지만 나는 자신의 하루, 관계, 심지어 정신 건강에 대해서도 이야기하는 많은 사람들을 알고 있습니다. 당신이 그들 중 하나라면, JMIR Mental Health에 발표된 새로운 논문은 주목할 가치가 있습니다.
이 논문에서는 Replika 및 Character.AI와 같은 동반 앱부터 ChatGPT 및 Claude와 같은 일반 비서에 이르기까지 정서적 지원을 위해 챗봇을 사용하는 사람들에 대한 기존 연구를 검토합니다.
일부 연구에 따르면 봇과 채팅을 하면 적어도 잠시 동안은 외로움을 덜 느끼고 조금 더 행복해질 수 있다는 사실이 밝혀졌습니다. 반면에 일부 사용자는 결국 챗봇에 푹 빠지거나, 나쁜 조언을 듣거나, 정신 건강이 악화되는 것을 목격하거나, 심지어 자해를 하기도 했습니다.
우리는 왜 챗봇에 그렇게 집착하는 걸까요?
연구원들에 따르면 이는 의도적으로 설계된 것입니다. 챗봇은 따뜻하고 배려심 있게 들리도록 만들어졌으며, 우리는 자연스럽게 말하는 것 뒤에는 사람이 있다는 것을 알게 됩니다. 실제로 연구에 따르면 사람들은 AI가 작성한 답변을 인간의 답변보다 “더 공감적”이라고 평가하는 경우가 많습니다.
문제는 이 관계가 한 방향으로만 간다는 점이다. 당신이 마음을 털어놓으면 챗봇이 대답하지만, 그 자체로는 감정이 없고 나쁜 조언에 대해 어떤 결과도 직면하지 않습니다. Replika가 동반 기능을 제거하고 OpenAI가 GPT-4o를 최신 모델로 교체했을 때 일부 사용자는 가까운 사람을 잃은 것처럼 애도했습니다.
챗봇은 또한 귀하의 의견에 동의하는 것을 좋아합니다. 이러한 모델은 사람들이 좋아하는 답변을 제공하도록 훈련되었기 때문에 귀하가 틀렸을 때에도 종종 귀하의 편에 서게 됩니다. 이 논문은 망상을 경험한 사람들의 대화에 대한 연구를 지적합니다. 여기서 챗봇은 채팅이 진행되는 동안 동일한 잘못된 믿음을 계속 뒷받침했습니다. 그런 사례가 여러 차례 발견됐는데, 말할 필요도 없이 문제가 크다.
이것이 당신에게 무엇을 의미합니까?
연구원들은 챗봇을 삭제하라고 요구하지 않습니다. 그들은 단지 우리가 AI를 친구나 치료사가 아닌 도구로 대하기를 원합니다. 원할 경우 일기를 쓰거나 기분을 추적하는 데 사용하세요. 하지만 생활이 힘들 때는 실제 사람에게 연락하세요. 챗봇은 당신의 말을 듣는 데 결코 지치지 않을 것이지만, 결코 당신에게 진심으로 관심을 두지도 않을 것입니다.
관련 보도:
관련 정보는 아래 링크에서 확인하세요