AI 사기꾼들은 의사의 얼굴과 목소리를 이용해 의심스러운 건강 치료법을 판매하고 있습니다. 해당 동영상은 진정한 의학적 승인을 위해 통과될 수 있으며 이를 게시 중단하는 것은 어려운 것으로 입증되었습니다.
CBC 뉴스 조사에서는 캐나다 의사들이 결코 보증하지 않은 제품 광고에서 어떻게 사칭되고 있는지 기록합니다. 환자들은 아직 도착하지 않은 치료법으로 인해 돈을 잃었고, 의사들은 조작된 의학적 조언으로 인해 사람들이 합법적인 치료를 받지 못하게 될 수 있다고 걱정합니다.
가짜 의료 보증은 어떻게 작동하나요?
사기꾼은 실제 의사의 영상을 조작하여 자신이 승인한 적이 없는 치료법을 추천하는 것처럼 보이게 할 수 있습니다. 친숙한 얼굴은 조언이 완전히 조작된 경우에도 판매 홍보에 의학적 권위의 겉치레를 제공합니다.
캐나다 의학 협회(Canadian Medical Association)는 일부 사기꾼이 더 나아가 완전히 허구의 AI 의사를 만들어낸다고 경고합니다. 이러한 디지털 인물들은 누구의 신원도 빌려주지 않고도 오해의 소지가 있는 건강 조언을 제공할 수 있습니다.
협회는 또한 캐나다 의사들이 일반적으로 규제 대상 건강 제품을 공개적으로 보증할 수 없다는 점도 지적합니다. 그러므로 기적의 치료법을 광고하는 의사가 등장하는 것은 의심스러운 일이다.
가짜 의사들은 얼마나 널리 퍼져 있는가?
사이언스 피드백(Science Feedback) 조사에 따르면 실제 의사를 사칭하는 등 AI로 생성된 의사의 동영상을 배포하는 18개의 TikTok 계정이 확인되었습니다. 일부 동영상은 수백만 건의 조회수를 기록했습니다.
몇몇 계정에서는 아무것도 직접 판매하지 않았습니다. 그들은 의심스러운 의학적 조언으로 잠재고객을 구축하고 잠재적으로 나중에 해당 잠재고객에게 수익을 창출할 수 있는 기회를 창출했습니다.
조사관들은 또한 비디오에 일반적으로 AI 생성 콘텐츠 라벨이 부족하다는 사실도 발견했습니다. 이후 TikTok은 정책을 위반한 것으로 밝혀진 계정을 삭제했다고 밝혔습니다.
플랫폼이 이를 막기 위해 무엇을 할 수 있는가?
플랫폼은 사칭자를 잡는 방법을 개발하고 있습니다. Meta는 공인이 등장하는 사기성 광고를 식별하기 위해 얼굴 인식을 테스트했으며, YouTube는 자격을 갖춘 제작자가 승인되지 않은 동영상을 찾고 신고할 수 있도록 AI 유사성 감지 시스템을 확장했습니다.
미국 의학 협회(American Medical Association)는 AI로 생성된 의료 콘텐츠에 대한 더 빠른 게시 중단과 명확한 라벨링을 포함하여 더 강력한 보호를 원합니다.
이러한 조치 중 어느 것도 모든 사기 동영상이 적발된다는 보장은 없습니다. 친숙한 의사의 얼굴만으로는 더 이상 보증이 진짜인지 여부를 판단하기에 충분하지 않습니다.
의사나 신뢰할 수 있는 의료 기관에 직접 청구 내용을 확인하는 것이 더 안전한 출발점입니다. Bitdefender RealCheck와 같은 도구는 의심스러운 콘텐츠를 표시하는 데 도움이 될 수 있지만 깨끗한 결과가 비디오가 진짜라는 증거로 취급되어서는 안 됩니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요