ZDNET을 팔로우하세요: 우리를 선호 소스로 추가하세요 Google에서.
ZDNET의 주요 시사점
- OpenAI는 이제 C2PA 메타데이터와 SynthID 워터마크를 사용합니다.
- 숨겨진 픽셀 신호는 AI 생성 이미지를 식별하는 데 도움이 될 수 있습니다.
- 공개 OpenAI 검증 도구도 출시됩니다.
오늘 OpenAI는 이미지 생태계 전반에 걸쳐 콘텐츠 출처 신호를 발표했습니다. 즉, AI가 생성한 이미지에 AI가 생성한 것으로 태그를 지정하는 것입니다.
이것은 새로운 것이 아닙니다. OpenAI와 기타 AI 도구는 2024년부터 AI가 생성한 이미지에 메타데이터를 삽입해 왔습니다. 문제는 메타데이터 태깅이 매우 쉽다는 것이었습니다. 새로운 점은 OpenAI가 멋진 신기술로 이미지 ID 보안 게임을 강화하고 있다는 것입니다.
또한: ChatGPT Images 2.0과 Gemini Nano Banana를 비교하여 어느 것이 더 나은지 테스트했습니다. 이 모델이 승리했습니다.
여기서는 많은 일이 일어나고 있습니다. 이해를 돕기 위해 우리는 기원전 440년 한 친구의 머리가 나쁜 날로 거슬러 올라갑니다.
스테가, 지금 뭐해?
스테가노그래피는 기본적으로 메시지의 암호화 의도가 즉시 드러나지 않도록 메시지를 숨기는 기술을 사용하여 눈에 잘 띄는 곳에 암호화 정보를 삽입하는 관행입니다. 즉, 누군가 또는 무언가가 코드를 가지고 있다는 것을 아는 것은 코드를 해독하는 것의 절반입니다.
현대 연구에 따르면, 기원전 5세기에 할리카르나소스의 헤로도토스는 자신의 9권의 역사서인 테르프시코레(Terpsichore)와 폴리므니아(Polymnia)에 글을 썼는데, “기원전 440년경 히스티아이우스가 가장 신뢰했던(조수)의 머리를 깎고 머리카락이 다시 자란 후에는 사라지는 메시지로 문신을 새겼습니다. 그 목적은 페르시아에 대항하는 반란을 선동하는 것이었습니다.”라고 설명합니다. 분명히 이 기술은 최근 제2차 세계대전 당시에도 사용되었습니다.
또한: ChatGPT Plus와 Gemini Pro를 테스트하여 어느 것이 더 나은지 알아보고 전환할 가치가 있는지 확인했습니다.
평범한 메모의 몇 글자를 읽음으로써 숨겨진 메시지가 드러나는 TV 탐정 쇼를 본 적이 있다면 텍스트 기반 스테가노그래피의 예를 본 적이 있을 것입니다. 암호화가 진행됨에 따라 약합니다. 하지만 메모에 메시지가 있는지 모른다면 해독을 시도하지 않을 수도 있습니다.
스테가노그래피는 사진을 구성하는 수백만 개의 픽셀에 텍스트 정보를 삽입하기 위해 수년 동안 디지털 이미지에 사용되어 왔습니다. 이를 통해 발신자는 눈에 잘 띄는 곳에 표시되는 이미지를 삽입할 수 있습니다. 또한 제작자는 매우 어려운 방식으로 소유권 및 원본 정보를 이미지에 삽입할 수 있습니다.
오늘 OpenAI 발표의 핵심이기 때문에 잠시 후에 스테가노그래피로 다시 돌아오겠습니다.
하지만 먼저 미래로 돌아가 보겠습니다. 하지만 전부는 아닙니다. 다음 정거장은 2024년이다.
메타데이터 보여줘
OpenAI는 2024년부터 DALL-E 3, ImageGen 및 Sora에서 생성된 이미지에 메타데이터를 내장해 왔습니다. 콘텐츠 자격 증명과 같은 도구를 사용하여 해당 데이터를 검사할 수 있습니다. Google의 Nano Banana 및 기타 이미지 생성 AI 도구도 이미지에 일부 메타데이터를 포함합니다.
또한: 모든 작업에 ChatGPT 사용을 중단했습니다. 이 AI 모델은 연구, 코딩 등에서 더 뛰어났습니다.
다음은 왼쪽이 ChatGPT, 오른쪽이 Nano Banana로 생성한 이미지의 예입니다. 보시다시피 메타데이터를 제대로 사용할 수 있습니다. 콘텐츠 자격 증명은 데이터를 표시할 수 있습니다.
반면, 픽셀은 캡처했지만 기본 메타데이터는 캡처하지 않은 각 이미지의 스크린샷을 찍었을 때 콘텐츠 자격 증명에서는 “뭔가 잘못되었습니다”라고만 보고했습니다. 이미지 캡처를 통해 원본 이미지 파일과 관련된 메타데이터가 완전히 제거되었습니다.
미안해요, 데이브. 저는 그렇게 할 수 없을 것 같습니다.
David Gewirtz/ZDNET의 스크린샷
무엇보다도 OpenAI와 Google이 이 문제를 해결하려고 노력하고 있습니다.
OpenAI에 따르면 “우리는 한동안 이를 위해 노력해 왔습니다. Sora에서는 눈에 보이는 워터마크를, Voice Engine에서는 오디오 워터마크를 사용해 왔으며 배포를 통해 시간이 지남에 따라 정확성과 신뢰성을 지속적으로 테스트하고 연구해 왔습니다.”
표준 메타데이터 형식
OpenAI는 “우리는 최근 OpenAI를 C2PA 준수 생성기 제품으로 만드는 조치를 취했습니다. C2PA 준수가 됨으로써 우리는 콘텐츠에 첨부하는 출처 정보를 읽고, 보존하고, 전달할 수 있는 신뢰할 수 있는 방법을 플랫폼에 제공하고 있습니다.”라고 말합니다.
그 내용을 풀어보겠습니다. C2PA는 콘텐츠 출처 및 진위성을 위한 연합입니다. 여기에는 “제품이 콘텐츠 자격 증명 사양을 준수하고 일련의 보안 요구 사항을 충족하여 C2PA 데이터를 올바르게 생성 및 검증하고 있음을 보장하는” C2PA 적합성 프로그램이 있습니다.
또한: 한 시간 안에 ChatGPT를 배우는 방법 – 무료
즉, 콘텐츠 메타데이터는 표준화되고 안전하며 유용할 만큼 충분한 정보를 포함하고 있습니다. OpenAI는 모든 이미지 제공에 대해 이 작업을 수행하고 있습니다. PR 담당자는 “ChatGPT 및 OpenAI(OpenAI API 및 Codex 포함)에서 생성된 모든 이미지에는 이러한 출처 신호가 포함되어 있습니다”라고 말했습니다.
신호. 복수. 그것은 이번 발표의 큰 망치로 나를 데려옵니다.
숨겨진 디지털 워터마크
Google DeepMind의 SynthID는 텍스트, 이미지, 비디오 및 오디오에 보이지 않는 디지털 워터마크를 삽입하는 다중 모드 디지털 워터마킹 메커니즘입니다. 이것은 멋진 기술입니다. 흥미롭게도 Google과 OpenAI가 주요 경쟁자라는 점을 감안할 때 OpenAI는 이제 회사가 생성하는 모든 이미지에 SynthID 기술을 통합하고 있습니다.
이미지의 경우 SynthID는 픽셀 기반입니다. 이미지가 생성되는 즉시 미묘한 스테가노그래피와 유사한 신호가 이미지에 삽입됩니다. 신원 데이터는 사람의 눈으로 감지할 수 없지만 탐지 도구는 데이터를 읽을 수 있습니다. 이 디지털 워터마크는 크기 조정, 자르기, 압축 및 색상 조정 후에도 이미지에 남아 있습니다. 스크린샷으로 전환됩니다. 디지털 서명은 이미지의 작은 영역에만 표시되는 것이 아니라 전체 이미지에 적용됩니다.
또한: ChatGPT Images 2.0을 사용해 보았습니다. 재미있고 큰 도약을 이루었으며 놀라울 정도로 실제 작업에 유용합니다.
따라서 Nano Banana가 생성하는 이미지의 모서리에 작은 다이아몬드를 배치하더라도 전체 이미지에 걸쳐 훨씬 더 포괄적인 신호를 포함합니다.
OpenAI가 언급하지 않은 SynthID의 또 다른 매력적이고 강력한 측면은 SynthID가 텍스트 품질에 영향을 주지 않고 텍스트에 워터마크를 표시할 수 있다는 것입니다. 그것이 하는 일은 생성된 내용을 스캔하여 탐지기 소프트웨어가 식별할 수 있는 통계적 서명을 찾을 수 있도록 각 텍스트 블록에 사용되는 토큰을 매우 미묘하게 선택하는 것입니다. 이 기능은 OpenAI에서 발표되지 않았으므로 ChatGPT에서는 사용되지 않을 수 있지만 Gemini에서는 사용됩니다.
C2PA와 마찬가지로 OpenAI는 ChatGPT, Codex 및 OpenAI API를 통해 생성된 이미지에 SynthID를 내장하고 있습니다.
새로운 공개 검증 도구
C2PA 규정 준수 및 SynthID 기능 발표와 동시에 OpenAI는 OpenAI의 AI 도구 중 하나에 의해 생성된 것이 있는지 확인하는 데 사용할 수 있는 공개 검증 도구의 가용성을 발표했습니다.
저는 공식 발표가 공개되기 전날 밤에 이 글을 쓰고 있습니다. 이 기사를 읽을 때쯤에는 https://openai.com/research/verify/에서 도구를 테스트할 수 있을 것입니다.
또한: Gemini, ChatGPT 및 Claude가 비디오를 분석하는 방법을 비교했습니다. 이 모델이 승리합니다.
이 도구의 한계와 SynthID와 함께 얼마나 잘 작동하는지 매우 궁금합니다. 예를 들어, ChatGPT에서 이미지의 일부를 가져와 Photoshop 구성의 일부로 실제 사진과 함께 사용하면 어떻게 될까요? AI가 태그된 금액이 보고되나요? 도구가 출시된 후 어느 시점에 실제 테스트를 통해 이에 대해 다시 확인해 보겠습니다.
OpenAI에 따르면 “단일 출처 기술만으로는 충분하지 않습니다. 우리는 강력한 접근 방식이 공유 표준, 내구성 있는 워터마킹 신호 및 공개 검증을 결합한다고 믿습니다. 콘텐츠 자격 증명에 대한 오랜 지원을 기반으로 C2PA를 준수하고 SynthID를 채택하고 공개 검증 도구를 미리 봄으로써 장기적으로 보다 상호 운용 가능한 출처 생태계에 기여할 수 있기를 바랍니다.”
감지 도구를 사용하면 이미지 출처를 쉽게 확인할 수 있나요? 아래 댓글을 통해 알려주세요.
소셜 미디어에서 저의 일상적인 프로젝트 업데이트를 팔로우하실 수 있습니다. 내 주간 업데이트 뉴스레터를 구독하고 Twitter/X에서 나를 팔로우하세요. @DavidGewirtzFacebook(Facebook.com/DavidGewirtz), Instagram(Instagram.com/DavidGewirtz), Bluesky(@DavidGewirtz.com), YouTube(YouTube.com/DavidGewirtzTV).
완벽 가이드 보기