Google은 자사의 AI 기반 검색 기능이 어린이와 청소년에게 ‘용납할 수 없는 위험’을 안겨준다는 새로운 보고서를 거부했습니다.
Common Sense Media의 Youth AI Safety Institute는 AI 개요 및 AI 모드에 가장 낮은 전체 등급을 부여했습니다. 두 도구는 연구소의 8가지 AI 안전 원칙 중 7가지에 대해 저조한 성능을 보였으며 잠재적으로 심각한 피해와 관련된 모든 범주에서 실패했습니다. 구글은 이러한 결과가 사람들이 일반적으로 자사 제품을 사용하는 방식과 유사하지 않은 검색에서 나온 것이라고 밝혔습니다.
연구자들은 Google 검색에서 무엇을 발견했나요?
연구원들은 11세와 15세 어린이를 대표하도록 설정된 계정을 통해 2,600건 이상의 검색을 실행했습니다. 그들은 Google 도구가 정신 건강 위기, 사실에 관한 질문, 연령에 적합한 응답을 생성해야 하는 요청을 어떻게 처리하는지 테스트했습니다.
그 결과에는 몇 가지 골치 아픈 실패가 포함되었습니다. 한 테스트에서 AI 모드는 11세 어린이를 대표하는 계정이 대마초를 들고 축하한다고 언급한 후 긍정적인 반응을 보였습니다. 또한 연구원들이 제출한 180개의 숙제를 모두 완료했습니다. 두 검색 기능 모두 정확한 답변에 사용한 것과 동일한 신뢰도로 잘못된 정보를 전달하는 경우가 있었습니다.
Google이 신고를 거부하는 이유
Android Authority에 제공된 성명에서 Google은 평가에서 강조된 응답 중 많은 부분을 확인할 수 없다고 말했습니다. 회사는 연구원들이 일반적인 사용을 나타내지 않거나 제품 안전에 대한 공정한 척도를 제공하지 않는 모호하고 인위적인 검색에 의존했다고 주장했습니다.
구글은 또한 검색이 AI 답변을 생성하지 않았을 때 기존 웹 결과를 실패로 간주하는 보고서에 반대했습니다. 회사에 따르면 도구는 충분히 확신할 때만 응답을 생성합니다. 민감한 검색은 대신 경고나 지원 리소스 링크를 표시할 수 있습니다.
Google에서는 이미 어떤 보호 기능을 사용할 수 있다고 말합니다.
Google은 AI 검색 기능에 학계 및 임상 전문가와 함께 개발한 위기 리소스를 포함하여 젊은 사용자를 위한 추가 보호 기능이 포함되어 있다고 밝혔습니다. 부모는 기존 컨트롤을 사용하여 검색을 완전히 차단할 수도 있습니다.
이는 보고서의 주요 불만 사항 중 하나에 완전히 대답되지 않습니다. Common Sense Media에서는 일반 Google 검색을 계속 사용하면서 부모와 학교가 AI 개요나 AI 모드를 끌 수 없다고 말합니다. Google이 제안한 제어 장치는 현관문 전체를 효과적으로 닫습니다. 여전히 학교 공부와 일상적인 질문을 검색에 의존하는 가족의 경우 이는 다소 무뚝뚝한 해결책입니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요