ZDNET을 팔로우하세요: 우리를 선호 소스로 추가하세요 Google에서.
ZDNET의 주요 시사점
- AI인가, 진짜인가? 이제 이미지의 신뢰성에 문제가 있습니다.
- EIC와 ISO에서 제안한 AI 이미지 식별에 도움이 되는 표준입니다.
- JPEG Trust는 이미지 인증을 향한 첫 번째 단계를 나타냅니다.
국제 표준 기관에서는 최종 사용자와 기업이 실제 이미지, 비디오 및 기타 콘텐츠를 딥페이크 및 AI 생성 슬롭과 구별하는 데 필요한 도구를 제공하기 위한 노력을 강화하고 있습니다. 최근 UN의 후원으로 제네바에서 개최된 AI for Good 컨퍼런스에서 새로운 표준이 발표되었습니다.
또한: Google 검색을 사용하면 AI 이미지를 무료로 즉시 생성할 수 있습니다. 방법은 다음과 같습니다.
신뢰성의 위기가 닥쳤고, 이미지의 경우 더욱 악화되어 더 이상 실제 사진과 AI가 생성한 가짜를 구별할 수 없는 지경에 이르렀습니다. 이는 사회와 기업 전반에 영향을 미쳐 뉴스 보도, 소셜 미디어 게시물, 심지어 범죄 현장의 사진 증거에 사용된 이미지의 진위 여부에 대한 의구심을 불러일으킵니다. 엄청난 재정적 비용도 있습니다. Deloitte 금융 서비스 센터의 추정에 따르면 Generative AI로 인해 미국에서 사기 손실이 2023년 123억 달러에서 2027년까지 400억 달러에 이를 수 있습니다.
새로운 표준이 할 수 있는 것과 할 수 없는 것
이제 휴대폰과 개인용 컴퓨터에 이미지가 넘쳐나면서 사진, 비디오 또는 기타 콘텐츠가 실제인지 아니면 AI에서 생성되었는지 판단하는 것이 불가능하지는 않더라도 어렵습니다.
스위스 연방공과대학의 투라지 에브라히미 교수는 “이제 어떤 것이 진짜 가짜인지 아닌지 알 수 없다”고 말했다. Ebrahimi는 AI 사기 및 딥페이크를 해결하기 위한 노력을 주도하고 있으며, 국제전기기술위원회(IEC), 국제표준화기구(ISO), 국제전기통신연합(ITU) 등 주요 국제 표준 기관과 협력하여 사용자와 회사가 잘못된 AI 생성 자료와 실제 콘텐츠를 구별하는 데 도움이 되는 공통 표준을 개발하고 전파하고 있습니다. “그것을 찾고 올바른 맥락에 놓기 위해서는 메타데이터와 정보를 볼 필요가 있습니다.”
또한: 최고의 AI 이미지 생성기: 이제 확실한 승자는 단 한 명뿐입니다.
이를 위해 IEC와 ISO는 이미지와 데이터의 신뢰성을 확인하는 데 도움이 되는 JPEG Trust 표준에 두 가지 추가 사항을 도입했습니다. 작년에 발표된 최초의 JPEG Trust 표준은 메타데이터를 신뢰 표시 형식으로 JPEG 파일에 직접 삽입하기 위한 프레임워크를 제공하도록 설계되었습니다.
JPEG Trust에 대한 두 가지 추가 사항이 현재 진행 중입니다.
- JPEG 신뢰 파트 2 신뢰 프로필 조각 및 보고 템플릿 카탈로그를 소개합니다. 표준 기관에 따르면 이러한 스니펫은 “특정 워크플로, 사용 사례 및 방송, 디지털 카메라, AI 기반 콘텐츠 생성 서비스 등과 같은 애플리케이션에서 사용하기 위한 프로필을 설정하기 위한 시작점으로 또는 현재 상태로 사용할 수 있습니다.”
- JPEG 신뢰 파트 3 미디어 자산 워터마킹을 도입합니다.
Ebrahimi에 따르면 JPEG Trust 표준의 목표는 최종 사용자의 손에 확인 도구를 제공하는 것이며 이미지나 데이터가 생성될 때 프런트 엔드에서 유효성을 검사하거나 레이블을 지정하기 위한 것이 아닙니다. “사기꾼들은 자신의 콘텐츠에 AI라는 라벨을 붙이지 않을 것입니다.”라고 그는 말했습니다. “누군가 법을 어기고 싶어도 법을 어기고 콘텐츠에 라벨을 지정해야 한다는 다른 법을 따르지는 않을 것입니다.”
또한: Moonshot의 오픈 소스 Kimi K3 모델은 이 벤치마크에서 Anthropic의 Fable 5를 능가합니다.
따라서 JPEG Trust는 “동영상과 이미지를 신뢰할지 여부를 알려주는 표준이 아니다”라고 그는 설명했다. “이것은 귀하가 귀하의 콘텐츠와 프로필을 기반으로 결정하고 이를 신뢰하고 싶은지 결정할 수 있는 수단을 제공합니다.”
맥락은 중요하게 생각하는 또 다른 요소이며 사용자에 따라 달라집니다. “신뢰는 상황에 따라 크게 좌우됩니다.”라고 그는 말했습니다. “어떤 사람들은 자신의 프로필과 상황 때문에 무언가를 신뢰할 수도 있습니다. 심지어 같은 맥락에서도 나중에 다른 맥락에서 신뢰할 수도 있습니다.”
흩어진 노력
지금까지 딥페이크와 AI 사기를 식별하고 퇴치하려는 노력은 기업들이 생태계 내에서 자체 접근 방식을 홍보하고 다른 기업들이 사실상 업계 표준을 설정하기 위해 힘을 합치는 등 분산되어 있었다고 Ebrahimi는 말했습니다. “그래서 가장 큰 질문은 어떤 표준이 지배적이 될 것인가 하는 것입니다.” IEC와 ISO는 일반적으로 인정되는 산업 표준이 필요하다는 것을 인식하고 있습니다.
또한: OpenAI의 공격 에이전트는 예상보다 더 가차 없이 지시된 대로 정확하게 수행했습니다.
멀티미디어 사기를 방지하기 위한 노력은 IEC와 ISO의 JPEG 위원회가 처음으로 허위 콘텐츠에 대한 우려를 제기하면서 2018년에 본격적으로 시작되었습니다. Ebrahimi는 “그들은 JPEG 파일이 가짜 이미지를 퍼뜨리는 데 사용된다는 점에 결함이 있다는 것을 인식했습니다”라고 말했습니다. 이제 AI 생성 이미지가 만연해 있는 상황에서 사용자와 기업이 수신한 이미지의 진위 여부를 확인할 수 있도록 표준을 확장하는 것이 과제입니다.
JPEG Trust 외에도 현재 개발 중인 추가 멀티미디어 표준에는 EIC 및 ISO의 AI 및 멀티미디어 진위성 및 표준 이니셔티브의 일부로 수행되는 다음이 포함됩니다.
작성자 프로필: 콘텐츠 제작자와 제작 프로세스에 대한 자세한 정보를 캡처하는 프로필을 만들고 유지하기 위한 지침을 포함하여 디지털 콘텐츠의 출처를 문서화하기 위한 프레임워크를 제공합니다.
또한: 나는 ChatGPT Work와 Claude Cowork를 내 파일에 풀어 놓았습니다. 단 한 사람만이 나를 불안하게 만들었습니다.
AI에 대한 콘텐츠 선호도를 표현하기 위한 어휘: 텍스트 및 데이터 마이닝, AI 교육과 관련된 기계 판독 가능 옵트아웃과 관련된 사용 사례의 표준화된 어휘를 제안합니다.
H.MMAUTH: 멀티미디어 콘텐츠 인증을 위한 프레임워크: 데이터 스트림의 디지털 서명을 기반으로 제안된 이 표준을 통해 사용자는 신뢰할 수 있는 제3자를 통해 작성자가 콘텐츠의 진위 여부를 확인할 수 있습니다.”
공식 정보 바로가기