인공지능은 가짜 인간의 얼굴을 만드는 데 놀라울 정도로 능숙해졌습니다. 사실 너무 좋아서 손가락 세기, 뒤틀린 귀걸이 찾기, 왜곡된 배경 찾기 등 사람들이 의존했던 오래된 방법이 빠르게 쓸모없어지고 있습니다. BBC가 강조한 새로운 연구에 따르면, 다음 방어선은 더 나은 AI 탐지기가 아닐 수도 있습니다. 단순히 더 잘 훈련된 인간일 수도 있습니다.
호주 국립대학교와 협력하는 애버딘대학교(University of Aberdeen) 연구원들은 비교적 짧은 기간의 구조화된 훈련을 통해 사람들이 AI로 생성된 얼굴과 실제 얼굴을 구별하는 능력을 극적으로 향상시킬 수 있다는 사실을 발견했습니다. 명백한 시각적 결함을 찾는 대신 참가자들은 현대 이미지 생성기가 여전히 일관되게 복제하기 위해 애쓰는 미묘한 패턴을 인식하도록 배웠습니다.
AI 경쟁은 인간도 진화하도록 강요하고 있다
수년 동안 AI가 생성한 이미지를 식별하는 것은 거의 사소한 일로 느껴졌습니다. 초기 모델은 종종 6개의 손가락, 일치하지 않는 귀걸이 또는 불가능한 그림자를 생성했습니다. 그러나 StyleGAN3 및 최신 확산 모델과 같은 시스템으로 구동되는 오늘날의 생성기는 이러한 명백한 실수를 크게 넘어섰습니다. 결과적으로 연구자들은 시각적 결함에 의존하는 것은 더 이상 효과적인 전략이 아니라고 주장합니다.
대신, 참가자들은 AI가 자주 공유하는 6가지 지각 특성을 판단하도록 훈련받았습니다. 여기에는 비정상적으로 완벽한 얼굴 대칭, 높은 비율의 특징, 평균 이상의 매력, 일반적으로 보이는 얼굴 구조, 제한된 감정 표현, 눈을 뜬 후에는 놀라울 정도로 기억하기 어려운 얼굴이 포함됩니다.
결과는 놀라웠습니다. 훈련 전에 참가자들은 AI가 생성한 얼굴을 올바르게 식별한 시간이 약 40%에 불과했습니다. 약 1시간 동안의 안내 학습과 실제 얼굴과 합성 얼굴 모두에 대한 반복 노출 이후 정확도는 거의 80%까지 올랐습니다. 소수의 참가자는 완벽한 탐지 점수에 접근하기도 했습니다. 더 중요한 것은 그들의 자신감이 실제 성과와 더 잘 일치하게 되었다는 점입니다. 이전 연구에서는 종종 누락되었던 부분이 있었습니다.
AI 얼굴을 발견하는 것이 그 어느 때보다 중요한 이유
이것은 더 이상 단순한 학문적 활동이 아닙니다. Deepfake 기술은 이미 금융 사기, 정치적 영향력 캠페인, 온라인 신원 사기에 사용되고 있습니다. BBC는 딜로이트가 미국에서 AI 기반 딥페이크 사기로 인한 손실이 2023년 약 120억 파운드에서 내년에 400억 파운드로 증가할 수 있다고 제안한 추정치를 지적했습니다. 또한 사기꾼들이 딥페이크 화상 통화를 사용하여 직원에게 2,500만 파운드를 송금하도록 설득한 것으로 알려진 홍콩 사례도 언급하고 있습니다. 한편, 이전 Associated Press 조사에서는 미국 정책계에 성공적으로 침투한 AI 생성 LinkedIn 프로필이 밝혀졌습니다.
이 연구는 또한 또 다른 중요한 문제를 강조합니다. AI 시스템은 훈련 데이터의 편견으로 인해 노인 얼굴, 젊은 얼굴 및 소외된 인종 그룹의 사람들을 생성하는 데 신뢰성이 떨어집니다. 이러한 불완전성은 여전히 인간 관찰자에게 유용한 단서를 제공할 수 있습니다.
아마도 가장 흥미로운 점은 인간의 두뇌가 AI 자체와 매우 유사하게 학습하는 것으로 보인다는 것입니다. 진짜 얼굴과 가짜 얼굴의 예를 반복해서 보면서 사람들은 단 한 번의 경품에만 의존하기보다 점차 직관적인 진정성을 갖게 됩니다. 연구원들은 생성 AI가 지속적으로 개선됨에 따라 본능이 우리의 가장 강력한 도구 중 하나가 될 수 있다고 믿습니다.
아이러니는 무시하기 어렵습니다. 인공지능이 인간인 척하는 능력이 향상됨에 따라 인간도 기계가 하는 방식대로 데이터, 반복, 패턴 인식을 통해 스스로 훈련을 시작해야 할 수도 있습니다. AI 탐지기는 계속해서 개선될 수 있지만, 연구에 따르면 AI 탐지기가 유일한 방어 수단이 되어서는 안 됩니다. 인간의 판단은 여전히 중요한 역할을 합니다. 업그레이드가 필요합니다.
관련 정보는 아래 링크에서 확인하세요