여행을 계획하는 것은 방금 읽은 빛나는 호텔 요약이 무서운 부분을 건너뛴 AI가 쓴 것인지 궁금해하지 않고도 충분히 스트레스를 받습니다. 밝혀진 바에 따르면, 이것이 바로 트립어드바이저에서 일어나고 있는 일일 수 있습니다.
Guardian이 보고한 소비자 단체인 which?의 조사에 따르면, 트립어드바이저의 AI 생성 리뷰 요약은 심각한 고객 불만 사항, 경우에 따라 완전히 위험한 불만 사항을 완화하고 있습니다.
호텔 리뷰에 대한 AI 요약을 신뢰할 수 있습니까?
예를 들어 카보베르데의 산타마리아 리우 궁전(Riu Palace Santa Maria)을 생각해 보십시오. AI 요약에서는 이곳을 흠잡을 데 없는 곳으로 평가했으며, 다양한 레스토랑이 극찬을 받았습니다. 반면에 실제 손님은 뷔페 근처에서 생닭, 파리, 새를 제공하고 심지어 좌석 공간에서 죽은 쥐까지 제공한다고 설명했습니다.
호텔 체인은 현재 위생 불량과 관련된 질병 혐의로 수백 명의 손님에 의해 고등 법원에 고소당하고 있습니다. 그 이후에 삭제된 AI의 쾌활한 요약에서는 그 내용을 전혀 알 수 없습니다.
그게 나쁘다고 생각하셨다면, 점점 더 심해지고 있다는 사실을 알려드리게 되어 안타깝습니다. 터키의 한 호텔에서는 손님들이 남성 직원으로부터 반복적인 성희롱을 당했다고 신고했습니다. AI 요약은 몇 번의 실수만으로 서비스를 친숙하게 만들었습니다.
누군가 사용자 리뷰의 AI 개요를 기반으로 호텔을 예약했다면 그곳에서 직면하게 될 공포에 대해 전혀 짐작하지 못할 것입니다. 조사 결과 이와 유사한 몇 가지 다른 사례가 발견되었습니다.
AI가 나쁜 리뷰를 계속 누그러뜨리는 이유는 무엇입니까?
UCL의 인간-컴퓨터 상호작용 교수인 Duncan Brumby는 간단한 설명을 제시했습니다. AI 모델은 대부분의 훈련 데이터가 단조롭고 정중하기 때문에 가혹한 비판을 자제하는 경향이 있습니다. 따라서 고객이 부정적인 리뷰를 작성하면 AI가 이를 사소한 불편으로 처리하는 경우도 있습니다.
트립어드바이저는 일치하지 않는 요약을 조사하고 있으며 리뷰에서 심각한 안전 사고가 언급될 때 자사 시스템이 AI 개요를 억제한다고 밝혔습니다. 또한 이러한 요약은 실제 리뷰를 대체하기 위한 것이 결코 아니라고 주장합니다.
그래도 테이크아웃은 간단합니다. AI 요약이 귀하의 여행 결정을 대신하게 하지 마십시오. 스크롤하여 별 1개 리뷰를 읽고 다른 사이트도 확인하세요. AI 요약은 불일치로 가득 찬 것으로 여러 번 입증되었으며, 휴가가 악몽으로 변하지 않도록 항상 스스로 조사하는 것이 좋습니다.
관련 정보는 아래 링크에서 확인하세요