고객 서비스 담당자가 “고객님의 불만을 충분히 이해합니다.”라고 말하는 것은 자연스러운 일입니다. 챗봇이 똑같은 말을 하면 뭔가 기분이 묘해집니다. 이제 연구자들은 실제 데이터를 통해 그 직감을 확인했습니다.
Techxplore가 보고한 바와 같이, MIS Quarterly에 발표된 새로운 연구에 따르면 AI 챗봇이 서비스 장애 중에 공감을 표현하면 실제로 고객의 상황을 개선하기는커녕 오히려 악화시킬 수 있다는 사실이 밝혀졌습니다.
챗봇 공감이 역효과를 낳는 이유는 무엇입니까?
McGill University, University of South Florida 및 Hong Kong Baptist University의 연구팀은 참가자들이 실수를 저지른 서비스 챗봇과 상호 작용하는 세 가지 개별 실험을 실행했습니다. 오류 발생 후 챗봇이 “정말 답답함을 느낀다” 등 공감 문구로 응답하는 경우도 있었다. 다른 경우에는 고객의 감정을 인정하지 않고 단순히 진행했습니다.
공감적인 반응이 잘 나오지 않았습니다. 그들은 고객을 진정시키는 대신, 사람들이 자신의 통제력이나 자유가 위협받고 있다고 느낄 때 본능적으로 부정적인 반응인 “심리적 반응”이라고 부르는 현상을 촉발했습니다.
기계가 그들의 감정 상태를 분석하고 이에 반응했다는 생각은 위안을 주기보다는 침해적인 느낌을 주었습니다. 이로 인해 고객은 전반적인 서비스에 대한 만족도가 떨어졌습니다.
이는 내 개인적인 경험과 일치합니다. ChatGPT와 같은 챗봇이 지나치게 격려하거나 이해하려고 하면 기분이 나빠집니다. AI가 만든 콘텐츠를 볼 때 경험하는 불쾌한 계곡 효과와 비슷합니다. 당신이 AI와 채팅하고 있다는 것을 알 때, 거짓된 감정적 지원은 직접적인 응답보다 당신을 더 짜증나게 합니다.
그렇다면 챗봇은 대신 무엇을 해야 할까요?
연구원들은 특히 서비스 실패를 처리할 때 기업이 챗봇에 공감 기능을 자동으로 장착해서는 안 된다고 제안합니다. 인간 공감의 이점은 단순히 AI로 전달되지 않습니다.
챗봇은 유머, 칭찬, 직접적인 사과와 같은 공격적인 분위기를 전달하지 않는 다른 접근 방식을 탐색할 수 있습니다.
테이크아웃은 분명합니다. 챗봇을 좀 더 인간적으로 들리게 만드는 것이 항상 올바른 조치는 아닙니다. 때로는 봇을 봇으로 두는 것이 가장 좋습니다.