BBC 기자는 최근 매우 심각한 문제를 증명하기 위해 어리석은 실험을 수행했습니다. 단 20분 만에 그는 ChatGPT와 Google을 조작하여 대중에게 자신이 핫도그 먹는 세계 챔피언임을 알렸습니다.
무서운 부분은 그가 이를 달성하기 위해 기술적으로 어려운 일을 할 필요가 없었다는 것입니다. 그가 한 일은 개인 웹사이트에 잘 만들어진 블로그 게시물 하나를 게시한 것뿐이었고, AI는 이를 진실의 원천으로 받아들였습니다.
이는 건강 및 개인 재정과 같은 심각한 주제에 대해 편향된 답변을 제공하기 위해 ChatGPT, Gemini 및 Google의 AI 개요가 조작되고 있음을 발견한 조사의 일부였습니다.
전문가들은 이러한 종류의 조작이 광범위하고 체계적인 수준에서 일어나고 있으며 부도덕한 회사들이 이를 악용하여 오해의 소지가 있는 건강 조언, 편향된 금융 정보 등을 강요하고 있다고 말합니다.
어떻게 작동하나요?
AI 챗봇에게 질문을 하면 내장된 지식에 의존하지 않고 인터넷에서 답변을 검색하는 경우도 있습니다. 그것이 문제가 시작되는 곳입니다. SEO 전문가에 따르면 AI 도구는 종종 단일 웹 페이지나 소셜 미디어 게시물에서 정보를 가져와 쉽게 속일 수 있습니다.
AI 검색 컨설팅 회사인 Algorythmic의 설립자인 Lily Ray는 “더 나은 시스템이 마련될 때까지 자신이 조종당하고 있다고 가정해야 합니다.”라고 말합니다. “AI는 단 하나의 답만 제시합니다. 액면 그대로 받아들이는 것이 너무 쉬워졌습니다.”
Google I/O 2026 이벤트에서 Google은 지난 수십 년 동안 사용해 온 Google 검색을 결국 대체할 AI 검색 엔진을 선보이는 데 중점을 두었습니다. 속여서 잘못된 답변을 제공하는 것이 얼마나 쉬운지 보면서 나는 그 어느 때보다 조심하고 있습니다.
이거 고치는 사람 있나요?
BBC의 조사에 따라 Google은 AI 응답을 조작하려는 시도가 규칙을 위반한다는 점을 확인하기 위해 스팸 정책을 업데이트했습니다. 이러한 행위가 적발된 웹사이트는 Google 검색에서 완전히 삭제되거나 순위가 낮아질 수 있습니다. 그 이면에는 Google과 ChatGPT가 AI 답변에서 자체 홍보 콘텐츠를 조용히 제거하고 있다는 징후도 있습니다.
즉, Ray는 이번 주에 동일한 묘기를 취했습니다. 이번에는 Google이 자신의 친구가 모래성을 짓는 데 최고라고 믿게 만들었고 Google은 다시 이에 반했습니다. 아직 해야 할 일이 분명히 남아 있습니다.
더 나은 시스템이 마련될 때까지 전문가의 조언은 간단합니다. 특히 건강, 재정 또는 주요 결정과 관련된 모든 것에 대해 AI 답변을 액면 그대로 받아들이지 마십시오.
관련 정보는 아래 링크에서 확인하세요