AI가 생성한 이미지를 찾아내는 것이 날이 갈수록 어려워지고 있습니다. OpenAI는 이를 바꾸고 싶어하며 Google을 파트너로 활용하여 이 거대한 작업을 수행하고 있습니다.
OpenAI는 콘텐츠 출처를 처리하는 방법에 대한 중요한 업데이트를 발표했습니다. 이는 이미지의 출처와 AI에서 생성되었는지 여부를 알 수 있는 방법을 알려주는 멋진 방법일 뿐입니다.
업데이트에는 C2PA 준수, Google과의 새로운 워터마킹 파트너십, 이미지를 직접 확인하는 데 사용할 수 있는 공개 도구라는 세 가지 주요 부분이 있습니다.
그렇다면 실제로 변화하는 것은 무엇입니까?
OpenAI는 2024년부터 도구로 생성된 이미지에 콘텐츠 자격 증명이라는 메타데이터를 추가해 왔습니다. 이 메타데이터는 생성된 모든 이미지에 포함되어 있으며 생성 방법을 알려줍니다. 이제 회사는 C2PA Conforming Generator가 되었습니다. 이는 다른 플랫폼이 OpenAI 생성 콘텐츠를 접할 때 정보를 안정적으로 읽고 찾을 수 있음을 의미합니다.
더 큰 소식은 Google과의 파트너십입니다. OpenAI는 이제 ChatGPT 및 OpenAI API를 통해 생성된 이미지에 Google DeepMind의 SynthID 워터마킹을 추가하고 있습니다. 스크린샷을 찍거나 이미지를 다시 업로드할 때 제거될 수 있는 메타데이터와 달리 SynthID는 보이지 않는 워터마크를 이미지에 직접 삽입합니다. 이는 일반적으로 메타데이터 기반 탐지를 삭제할 수 있는 변환에도 살아남도록 설계되었습니다.
두 시스템은 함께 작동합니다. 메타데이터는 이미지 원본에 대한 자세한 정보를 전달하는 반면, 워터마크는 메타데이터가 이를 만들지 못할 때 백업 역할을 합니다.
이미지가 AI로 생성되었는지 어떻게 확인할 수 있나요?
OpenAI는 openai.com/verify에서 공개 검증 도구를 미리 선보이고 있습니다. 이미지를 업로드하면 도구가 콘텐츠 자격 증명과 SynthID 워터마크를 모두 확인하여 해당 이미지가 OpenAI 도구를 사용하여 생성되었는지 확인합니다.
한 가지 중요한 주의 사항: 도구가 워터마크나 메타데이터를 찾지 못하면 이미지가 AI에서 생성되지 않았다고 확실히 말할 수 없습니다. 이는 워터마크와 메타데이터가 여전히 스푸핑될 수 있기 때문입니다.
또한 모든 생성 AI 회사가 Google과 제휴하여 이미지에 SynthID를 포함하는 것은 아닙니다. SynthID 또는 이와 유사한 것이 모든 생성 AI 모델에서 보편적으로 채택되지 않는 한, 어떤 검증 도구도 이미지가 AI에 의해 생성되지 않았다는 것을 100% 확신할 수 없습니다.
그래도 올바른 방향으로 나아가는 단계입니다. AI가 생성한 이미지는 대혼란을 일으키고 사악한 목적으로 널리 사용됩니다. 사람을 인식하는 시스템이 절대적으로 필요하며, Google과 OpenAI가 이를 위한 길을 열어주고 있어 기쁩니다.
관련 정보는 아래 링크에서 확인하세요