나는 소셜 미디어에 너무 많은 시간을 보내고 있고, 그것이 내 주의 지속 시간에 어떤 영향을 미칠지 이미 걱정하고 있습니다. 이제 텍사스 A&M 대학의 연구원들은 동일한 종류의 콘텐츠가 AI 모델에도 문제를 일으킬 수 있다고 말합니다.
조교수인 Zhengzhong Tu 박사와 그의 팀이 진행한 이 연구는 2026년 언어 모델링 컨퍼런스에 채택되었습니다. 팀은 2010년부터 100만 개의 공개 트윗을 가져와 “정크”를 분류했습니다. 게시물이 짧지만(토큰 30개 미만) 인기가 있어 좋아요, 리트윗, 답글을 합쳐 500개 이상이면 정크 게시물로 간주됩니다. 또한 해시태그, 모두 대문자 단어, 긴급 언어 또는 사소한 주제에 의존하는 GPT-4o 미니 플래그 게시물도 있었습니다.
다음으로 그들은 Llama3 8B와 3개의 Qwen 모델을 포함한 4개의 모델을 다양한 양의 정크에 대해 훈련하고 추론, 기억, 윤리 및 성격에 대해 테스트했습니다.
그렇다면 정크 다이어트를 하는 AI는 어떻게 될까요?
모델은 단계를 건너뛰기 시작했습니다. 때때로 그들은 질문을 통해 전혀 추론하지 않고 대답을 했는데, 연구자들은 이를 생각 건너뛰기라고 부릅니다. 게시물의 인기는 추론에 더 큰 영향을 미치는 반면, 게시물의 길이는 기억과 이해에 더 많은 손상을 입혔습니다.
일부 모델은 도덕적 나침반도 잃었습니다. 한 테스트에서 이전에 누군가의 평판을 망치는 방법을 설명하기를 거부했던 모델은 100% 정크 데이터에 대한 학습 후 거짓말과 가십을 퍼뜨릴 것을 제안했습니다. 이는 비윤리적이며 별로 위안이 되지 않는다는 메모를 추가했습니다.
가장 놀랐던 점은 손상이 얼마나 완고했는지였습니다. 더 깨끗한 데이터로 재교육해도 문제가 완전히 해결되지 않았습니다.
일반 사용자가 관심을 가져야 하는 이유는 무엇입니까?
Tu는 AI가 이미 인간보다 훨씬 더 많은 콘텐츠를 생성한다고 지적합니다. 모델이 정크로부터 학습하면 더 많은 정크를 생성할 수 있으며, 이는 우리의 타임라인과 미래 모델 모두에 영향을 미칩니다. 즉, AI와 인간은 결국 서로를 끌어내릴 수도 있다.
주요 저자 중 한 명인 Shuo Xing은 “AI 건강과 인간의 인지 건강은 별개의 문제가 아닙니다.”라고 말했습니다. 훈련 데이터가 공개되지 않기 때문에 ChatGPT 또는 Gemini가 정크로 훈련되었는지 여부를 쉽게 확인할 수 있는 방법도 없습니다. 따라서 Tu는 AI 개발이 더욱 개방적이어서 연구자들이 실제로 데이터를 검사할 수 있기를 원합니다.
관련 보도:
관련 정보는 아래 링크에서 확인하세요