Tech giants like Meta, Google, and X are investing heavily in AI tools designed to detect fake news. 안심할 수 있을 것 같지만 Université de Montréal의 새로운 연구에 따르면 이러한 도구에는 인상적인 정확도 수치 뒤에 몇 가지 심각한 단점이 숨어 있습니다.

Doctoral researcher Dorsaf Sallami examined AI fake news detection systems and found that they don’t actually fact-check anything. They calculate probabilities based on their training data. 기사를 검증하는 저널리스트라기보다는 동일한 편견과 맹점을 포함하여 그것이 보여지는 모든 것을 반영하는 거울에 가깝다고 생각하십시오.

Dorsaf Sallami에 따르면 실험실 환경에서 95%의 정확도를 달성한 시스템은 현실 세계에서는 여전히 실패할 수 있으며 그 격차는 심각한 문제입니다.

아무도 이야기하지 않는 편견 문제

여기에 가짜 콘텐츠를 그 어느 때보다 쉽게 ​​생성할 수 있게 해주는 ChatGPT와 같은 도구의 등장으로 인해 심지어 몇 달 전에 훈련된 탐지 시스템도 빠르게 쓸모 없게 될 수 있습니다.

더 나은 접근 방식

Sallami의 솔루션은 단순히 콘텐츠가 사실인지 거짓인지를 알려주는 대신 콘텐츠가 의심스러운 이유를 설명하는 브라우저 확장 프로그램인 Aletheia입니다. In tests, it achieved 85% reliability, outperforming many existing tools. 그것이 다른 점은 철학입니다. Instead of handing you a verdict and expecting you to trust it, Aletheia shows its work.