TikTok 및 YouTube에서 판매되는 새로운 앱의 물결로 인해 교사는 학생들이 실제로 숙제를 직접 작성하고 있는지 아니면 AI에 오프로드하고 있는지 확인하는 것이 거의 불가능해졌습니다. New York Times는 휴머나이저 및 자동 타이퍼로 알려진 도구가 AI로 작성된 숙제를 제공하는 데 사용되는 격차를 해소했으며 탐지 소프트웨어를 판매하는 동일한 회사가 때때로 학생들이 이를 피할 수 있도록 돕는 회사라고 보고합니다.
교사가 의존하는 점검을 해결하는 도구
휴머나이저는 AI가 생성한 텍스트를 가져와 재작업하여 더 이상 로봇처럼 들리거나 감지를 유발할 만큼 반복적으로 들리지 않도록 하고, 자동 입력기는 타이밍 문제를 해결합니다. 교사가 버전 기록을 확인하는 것을 알려줄 수 있는 천 개의 단어가 문서에 한꺼번에 나타나는 대신, 자동 입력기는 몇 시간에 걸쳐 점차적으로 텍스트를 공개하고 실제 쓰기 세션을 모방하기 위해 가짜 오타, 삭제 및 편집 내용을 삽입하기도 합니다.
Dripwriter 및 Duey.ai와 같은 앱은 이를 직접 광고하여 학생들에게 완전히 물러나서 스스로 작성한 것처럼 보이는 내용을 제출할 수 있다고 말합니다. Typeflo라는 앱은 학생들이 에세이를 작성하는 동안 휴식을 취하고 샌드위치를 먹을 수 있다고 약속했습니다. 이 앱은 에모리 대학교 교수의 10대 아들이 만들고 판매한 것으로 밝혀졌습니다. 그는 소셜 미디어의 존재 정도를 몰랐고 연락을 받은 후 삭제했습니다.
AI를 잡기 위해 만들어진 탐지기조차 믿을 수 없다
GPTZero의 전체 주장은 다른 도구가 놓친 AI 글쓰기를 감지하는 데 있지만 Times는 회사에서 급여를 받는 마케팅 담당자가 TikTok에서 가짜 대학원 조교 페르소나를 구축하여 학생들에게 홍보했다는 사실을 발견했습니다. 동영상은 학생들에게 GPTZero의 브라우저 확장 기능을 안내하여 논문을 제출하기 전에 AI 플래그를 검사하는 방법을 보여주고 동일한 도구가 처음부터 인용이 포함된 전체 논문을 생성할 수 있음을 보여주었습니다.
보고서에 대해 GPTZero의 공동 창립자이자 CEO인 Edward Tian은 회사가 마케팅 담당자와의 관계를 끊고 종이 생성 기능을 유지할지 여부를 재고하고 있다고 말했습니다. Grammarly는 교사를 위한 저자 확인 기능을 제공하는 동시에 동일한 플랫폼에서 휴머나이저, 텍스트 생성 및 의역 도구를 제공하는 등 비슷한 모순에 직면해 있습니다. 이러한 불안정성은 이 두 회사에만 국한되지 않습니다.
올해 초의 보고서에 따르면 플로리다 대학교 연구원들은 가장 인기 있는 5가지 AI 텍스트 탐지기를 테스트한 결과 단일 어휘 조정만으로 대부분의 탐지기를 완전히 무력화하여 99.6%에 달하는 높은 거짓 음성 탐지율을 발견했습니다. 연구 결과는 징계 결정을 위해 이러한 도구에 의존하는 학교가 가정하는 것보다 훨씬 덜 확실하게 작업하고 있음을 시사합니다.
교실에서 AI를 불법화하는 것이 당연한 해결책처럼 들릴 수도 있지만, 이것이 신뢰할 수 없는 것으로 감지되면 학교에서는 시도하더라도 AI를 시행할 방법이 없을 수 있습니다. 일부 교육자들은 학생들이 직장에 들어가는 순간 이와 동일한 도구가 필요하기 때문에 어쨌든 그것은 요점에서 벗어났다고 주장합니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요