AI가 생성한 얼굴을 쉽게 식별할 수 있다고 생각하시나요? 새로운 연구에 따르면 당신이 자신을 과대평가하고 있을 수도 있다고 합니다.
뉴사우스웨일스대학교(UNSW)와 호주국립대학교(ANU)의 연구원들은 125명의 참가자를 대상으로 실제 인간의 얼굴과 AI가 생성한 얼굴을 구별하는 능력을 테스트했습니다. 대부분의 자원봉사자들은 자신의 판단에 확신을 갖고 있었지만 결과는 다른 이야기를 들려주었습니다. 심지어 슈퍼 인식자라고 불리는 뛰어난 얼굴 인식 능력을 가진 사람들도 평균보다 약간 높은 점수를 받았습니다.
이 연구에서는 명백한 시각적 오류를 제거한 AI 생성 얼굴을 사용하여 매우 설득력 있게 만들었습니다. 초기 사례에는 왜곡된 치아나 일치하지 않는 안경과 같은 눈에 띄지 않는 결함이 있는 경우가 많았지만, 현대 이미지 생성 시스템은 감지하기 훨씬 어려운 대칭적이고 균형이 잘 잡힌 이미지를 생성합니다.
UNSW의 제임스 던(James Dunn) 박사는 “우리가 본 것은 평균적인 얼굴 인식 능력을 가진 사람들이 우연보다 약간 더 나은 성과를 냈다는 것입니다.”라고 말합니다. “초인식자가 다른 참가자보다 더 나은 성능을 발휘했지만 그 차이는 아주 미미했습니다. AI가 생성한 얼굴을 인식하는 능력에 대한 사람들의 자신감은 일관되었습니다. 심지어 그 자신감이 실제 성능과 일치하지 않는 경우에도 마찬가지였습니다.”
과신이 당신을 위험에 빠뜨리는 방법
이러한 과신은 실제적인 영향을 미치며, 진위 여부를 판단하기 위해 본능에만 의존할 경우 사람과 회사가 사기, 가짜 소셜 미디어 계정, 사기성 프로필에 더 취약하게 만듭니다. 연구는 직감만으로는 AI와 실제를 구분하는 데 더 이상 충분하지 않다는 점을 강조합니다.
연구에 따르면 평균 이상의 얼굴 인식 능력을 갖춘 사람이라도 AI로 생성된 얼굴을 식별하는 데 어려움을 겪을 수 있으며, 이 능력이 안정적으로 훈련되거나 예측될 수 있다는 명확한 증거는 아직 없습니다.
가짜 얼굴을 찾아내는 것이 쉽다고 생각했다면, 이 연구는 그것이 당신이 생각하는 것보다 훨씬 더 까다롭다는 것을 보여줍니다.