ChatGPT가 추천한 지름길로 인해 이번 달 폴란드의 산 정상에 두 명의 등산객이 갇히게 되었고, 다시 내려오려면 헬리콥터가 필요했습니다. 실제로 평가할 방법이 없는 경로로 여행자를 안내하는 AI 챗봇의 최신 사례입니다.
ChatGPT의 단축키는 곧바로 막다른 골목으로 이어졌습니다.
Cybernews에 따르면 두 명의 리투아니아 등산객은 Tatra 산맥의 Five Lakes Valley에 도달하려고 시도하고 있었고 ChatGPT에 그곳으로 가는 더 빠른 길을 찾아달라고 요청했습니다. 챗봇의 대답은 그들을 Niebieska Turnia 쪽으로 데려갔고, 둘 다 등반 경험이 필요한 구간인 Świnicka Ławka 횡단으로 이동했습니다.
도착 후에는 스스로 앞으로 나아갈 수도, 뒤로 갈 수도 없었고, 7월 4일 폴란드 비영리 구조단체인 타트라 수색구조대(TOPR)에 연락해야 했다. TOPR은 두 사람이 헬리콥터를 이용해 무사히 탈출했다고 확인했다.
나쁜 AI 여행 조언의 패턴
이는 일회성 사건과는 거리가 멀다. 작년에 브리티시 컬럼비아의 한 부부는 비슷한 문제에 직면했습니다. AI가 계획한 경로로 인해 지형에 필요한 장비나 예측 인식 없이 불필요한 산에 발이 묶인 채 현지 구조대가 개입해야 했습니다. 경제협력개발기구(OECD)의 AI 사고 추적기는 또한 존재하지 않는 페루의 “휴만타이의 신성한 협곡”과 같은 전체 목적지를 발명하는 챗봇을 기록했습니다.
문제는 하이킹이나 ChatGPT에만 국한되지 않습니다. 올해 초의 보고서에 따르면 트립어드바이저의 AI로 작성된 리뷰 요약은 호텔의 심각한 안전 불만 사항을 경시하고 고객의 위생 문제 및 괴롭힘에 대한 보고에도 불구하고 시설이 흠잡을 데 없는 것으로 묘사한 것으로 나타났습니다. 어느 경우든 AI는 호텔 상태든 위험한 지형이든 결코 깨끗하지도, 단순하지도 않은 상황에 대해 깨끗하고 자신감 있는 답변을 내놓았습니다.
ChatGPT 또는 유사한 도구를 사용하여 하이킹이나 여행을 계획하는 경우 이러한 사고는 해당 도구의 내용을 맹목적으로 신뢰해서는 안 된다는 것을 시사합니다. 밖으로 나가기 전에 스스로 조사하고 신뢰할 수 있는 출처로부터 정보를 수집하세요.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요