Google의 AI 개요 기능은 가짜 공포 ‘변칙 현상’을 중심으로 만들어진 인기 팬픽 세계인 SCP 재단의 항목을 마치 실제 생물과 사건을 묘사하는 것처럼 제시하는 것으로 알려졌습니다. 미래주의는 AI가 생성한 요약에서 SCP 항목이 허구라는 언급을 건너뛴 사례를 최소 20개 발견했습니다.
가짜 괴물을 진짜처럼 혼동하기
“SCP-565″를 검색하면 게처럼 움직이며 법의학 기록 및 사망한 사람의 신원과 연결되어 있는 “변칙적이고 보행 가능한 인간 머리”를 설명하는 AI 개요가 반환된 것으로 알려졌습니다. 요약에서는 사용자가 더 자세히 읽을 수 있도록 “공식” SCP 문서를 가리키기도 했습니다.
퓨처리즘(Futurism)에 따르면, 언급하는 사람마다 1인칭으로 이야기하게 만드는 가상의 토스터인 “SCP-426″을 검색하면 AI가 자신을 토스터라고 설명하고 이를 모방하려는 사람들이 조작한 부상에 대해 자세히 설명하는 1인칭 응답이 생성되었습니다. 보고서에 인용된 다른 예로는 “진실의 또 다른 버전”으로 불리는 “SCP-922″와 요정을 흉내낸다고 알려진 기생충인 “SCP-779″가 있습니다.
각각의 경우 AI 개요는 SCP 재단이 발명한 문서를 허구로 표시하기보다는 합법적인 연구로 취급한 것으로 알려졌습니다. Google의 AI 기반 검색 결과가 잘못된 날짜부터 조작된 역사적 주장에 이르기까지 과거의 실수를 포함하여 잘못된 정보를 사실로 자신 있게 제시한 것은 이번이 처음이 아닙니다.
인정도 없고 면책 조항도 없습니다
SCP 재단의 자체 웹사이트에는 해당 항목이 허구임을 분명히 명시하고 있습니다. Google의 AI 개요는 해당 맥락을 거의 반복하지 않으며, 때때로 그것이 의미하는 바를 설명하지 않고 “지식”을 언급한다고 미래파는 지적합니다. 미래주의는 논평을 위해 구글에 연락했지만 출판되기 전에는 응답을 받지 못했습니다.
나는 이러한 발견을 재현하려고 노력했지만 “SCP-565″를 검색해도 AI 개요가 전혀 반환되지 않았으며 Google의 AI 모드는 해당 독립체를 실제라고 제시하기보다는 “가상 변칙”으로 분류했습니다. SCP 세계의 다른 가상 인물을 사용해 이 동작을 재현하려는 노력도 헛된 것으로 나타났습니다. 이는 Google이 적어도 미래주의가 표시한 쿼리 중 일부에 대해 이미 문제를 해결했을 수 있음을 시사합니다. Google은 이전에 AI 개요 및 AI 모드를 더욱 안정적으로 만들기 위한 업데이트를 출시했지만 정확성 문제는 때때로 계속해서 표면화되었습니다.
비록 제가 이 행동을 재현할 수는 없었지만 AI 개요는 많은 Google 검색의 상단에 있고 어린이를 포함하여 SCP 커뮤니티에 익숙하지 않은 사람은 그 이야기가 공포 소설이 아니라 문서화된 사실이라고 믿고 떠날 수 있기 때문에 실수는 여전히 중요합니다. 이는 기능이 피자 소스에 무독성 접착제를 추가하도록 권장하는 사례를 포함하여 다른 AI 개요 실수를 반영하며, AI 기반 검색에서는 자신 있게 잘못된 답변이 여전히 지속적인 위험으로 남아 있음을 상기시켜줍니다.
관련 정보는 아래 링크에서 확인하세요