Google의 AI 개요는 알래스카 여성에게 잘못된 사냥 날짜를 알려주었고, 결국 그녀는 자신이 법을 어겼을 수도 있음을 깨닫고 야생 동물 관리에게 신고하게 되었습니다. 이 사건은 지역 규칙이 복잡할 때 AI 답변이 얼마나 빨리 문제가 될 수 있는지를 보여줍니다.
Google AI의 잘못된 답변으로 인해 인용이 발생함
코디악에 거주하는 크리스티나 위버(Christina Weaver)는 윌슨의 도요새를 사냥하기 전에 Google에서 ‘알래스카 도요새 시즌’을 검색했습니다. AI 개요에서는 시즌이 9월 1일에 시작되었다고 말했습니다. 이 날짜는 알래스카 일부 지역에 적용되지만 코디악에는 적용되지 않습니다. 위버는 나중에 그곳에서 10월 8일부터 1월 22일까지 도요새를 합법적으로 사냥할 수 있다는 사실을 발견했습니다.
계절이 아닌 새 세 마리를 수확할 가능성이 있다는 사실을 깨달은 Weaver는 알래스카 야생동물 담당자에게 직접 연락했습니다. 해당 경찰관의 진술서에는 자신이 구글에서 검색한 결과 유사한 정보가 나왔다고 전해진다.
알래스카의 사냥 규정은 위치에 따라 크게 다를 수 있으므로 일반적인 대답은 특히 위험합니다. Weaver는 Alaska Beacon에 자신의 실수를 발견한 후 기분이 좋지 않았고 당황스러웠다고 말했습니다.
알래스카 공공안전부 대변인 Austin McDaniel은 어류 및 사냥 규정이 사냥꾼들에게 진실을 제공하는 유일한 원천이라고 말했습니다. 그는 AI를 언급한 것은 이번이 처음이라고 생각하며 앞으로 더 많은 일들이 기대된다.
Weaver는 항의하지 않고 150달러의 벌금을 물었지만, 스스로 신고한 위반은 훨씬 가벼운 처벌을 받기 때문에 스스로 신고하여 올바르게 처리했다고 말했습니다.
이것은 AI 요약을 신뢰하는 것에 대한 또 다른 경고입니다.
이 사건은 AI가 생성한 요약이 사용하는 소스의 중요한 세부 정보를 단순화할 수 있음을 상기시켜 줍니다. 위치에 따라 규칙이 변경되는 경우 특히 그렇습니다.
우리는 온라인 정보를 요약하는 AI에서 비슷한 문제를 이미 목격했습니다. 이전 조사에서는 트립어드바이저의 AI 리뷰 요약이 식품 안전 문제 및 괴롭힘 신고를 포함한 심각한 고객 불만 사항을 은폐한 것으로 나타났습니다.
Google의 AI 개요도 실수를 저지르며 팬픽션의 공포 괴물을 꾸며낸 것이 아닌 실제처럼 제시합니다. 그 답변 중 일부는 수정되었을 수 있습니다.
AI 답변은 자신감 있게 들리지만 여전히 틀릴 수 있으므로 간단한 확인 습관을 통해 실수를 발견하는 데 도움이 될 수 있습니다. 사냥 날짜와 같이 실제 결과가 발생하는 경우 조치를 취하기 전에 공식 출처를 확인하세요.
관련 정보는 아래 링크에서 확인하세요