이번 주 초 Meta는 Muse Image와 Muse Video라는 두 가지 새로운 AI 제품을 발표했습니다. 이름에서 알 수 있듯이 자연어 텍스트 프롬프트를 사용하여 사진과 비디오 클립을 만들기 위한 생성적 AI 도구입니다. 출시가 시작된 직후 이러한 도구는 논란을 불러일으켰습니다. Meta가 Instagram 사용자를 자동으로 선택하여 다른 사람들이 공개적으로 게시된 미디어를 사용하고 이를 리믹스된 AI 콘텐츠로 변환할 수 있도록 허용했기 때문입니다. 그러나 메타는 법원 측에서 또 다른 손실을 입은 것으로 보인다.
무엇이 문제인가요?
Meta는 새로운 AI 도구와 함께 눈에 보이지 않는 워터마킹 시스템 역할을 하는 Content Seal이라는 기능을 도입했습니다. 기술적으로 Muse Image AI가 생성한 모든 이미지에는 AI를 사용하여 제작되었는지 여부를 식별하는 데 사용할 수 있는 숨겨진 신호가 있습니다. 이에 맞춰 회사는 눈에 보이지 않는 Content Seal 워터마크를 읽을 수 있는 자체 AI 식별 도구도 출시했습니다. 그러나 Meta의 AI 스니핑 도구는 회사가 주장하는 것만큼 정확하지 않은 것으로 보입니다.
로이터 통신의 분석에 따르면 회사의 Muse Image AI를 사용하여 만든 이미지는 Meta의 AI 식별 소프트웨어가 생성한 AI로 안정적으로 감지할 수 없습니다. 이 아울렛은 Muse Image가 생성한 이미지 40개를 분석했지만, 그 중 AI를 사용하여 생성된 이미지를 식별할 수 있었던 경우는 45%에 불과했습니다. 나머지 55%의 경우, 이미지가 원래 크기의 1/3 또는 1/4로 잘렸을 때 Meta가 개발한 AI 탐지 도구는 단순히 실패했습니다.
아, 그렇군요. 정말 당황스럽네요!
그것은 주목할만한 실수입니다. Meta는 자사 웹사이트에서 Content Seal 시스템이 “자르거나, 압축하거나, 크기를 조정하거나, 스크린샷을 찍는 경우에도 그대로 유지되는 숨겨진 출처 신호”를 전달한다고 주장합니다. Reuters의 분석에 따라 Meta는 자사의 AI 탐지 도구가 아직 미리 보기 상태이며 사진이 “심하게 잘려진” 경우 안정적으로 작동할 수 없다고 아울렛에 말했습니다. Meta는 AI 탐지기 사이트의 FAQ 페이지에서 Muse Image 대신 타사 AI 제품을 사용하여 이미지를 생성한 경우 탐지 도구가 작동하지 않는다는 점을 분명히 밝혔습니다.
Meta는 Content Seal과 같은 시스템을 만든 유일한 AI 거대 기업이 아닙니다. Google은 이미 SynthID라는 AI 이미지 감지 및 워터마킹 시스템을 갖추고 있습니다. OpenAI 등에서도 채택되었습니다. 즉, ChatGPT 또는 Gemini를 사용하여 이미지를 생성하면 보이지 않는 SynthID 워터마크가 표시되며 현재 Google 검색에서도 사용할 수 있는 Google 자체 AI 식별 도구를 사용하여 감지할 수 있습니다. 그러나 Google은 또한 SynthID가 100% 완벽한 것은 아니라는 점을 분명히 했습니다.
관련 정보는 아래 링크에서 확인하세요