중국은 빠르게 성장하는 ‘디지털 인간’ 산업을 규제하기 위한 노력을 강화하고 있습니다. 감정적으로 몰입하는 AI 아바타(일부는 사망한 사랑하는 사람을 모델로 함)가 전국적으로 광범위한 관심을 끌기 때문입니다. 이러한 움직임은 기술의 상업적 잠재력과 윤리적 위험이 점점 더 가시화됨에 따라 이루어졌습니다.
슬픔, 기술 및 성장하는 산업
랴오닝성 출신의 47세 여성 장신위(Zhang Xinyu)는 아버지를 암으로 잃은 후 인공지능으로 전환했습니다. 그녀는 Super Brain이라는 회사와 협력하여 그와 모양과 소리가 비슷한 디지털 아바타를 만들어 온라인에서 대화를 계속할 수 있었습니다. 그녀는 AFP와의 인터뷰에서 그 경험이 슬픔에 대처하고 정서적 힘을 회복하는 데 도움이 되었다고 말했습니다.
그녀의 이야기는 AI가 생성한 ‘디지털 휴먼’이 급속히 인기를 얻고 있는 중국의 광범위한 추세를 반영합니다. 외관과 행동이 실제와 유사한 이러한 아바타는 소셜 미디어, 특히 전자 상거래 및 콘텐츠 제작 분야에서 널리 사용됩니다. 신화통신에 따르면 2024년 이 부문의 가치는 약 41억 위안(6억 달러)으로 전년 대비 85% 성장했다.
그러나 모든 사람이 기술을 긍정적으로 보는 것은 아닙니다. 일부 비평가들은 그러한 아바타가 정서적 의존성을 조성하거나 근본적인 감정이 진짜일지라도 Zhang 자신이 “거짓 위안”이라고 묘사한 것을 제공할 수 있다고 경고합니다.
규제가 따라잡다
이러한 우려에 대응하여 중국 사이버 공간 관리국은 감독 강화를 목표로 하는 규정 초안을 발표했습니다. 제안된 규정은 AI 생성 콘텐츠에 대한 명확한 라벨링을 요구하고 개인의 동의 없이 디지털 복제본 생성을 금지합니다.
또한 이 규정은 사회 안정이나 국가 안보를 위협할 수 있는 사기, 잘못된 정보, 콘텐츠 등의 오용을 방지하기 위해 노력하고 있습니다. 이러한 지침을 위반하는 회사는 10,000위안(1,460달러)에서 200,000위안(29,300달러) 범위의 벌금에 처해질 수 있습니다.
한 노인 여성이 자신도 모르게 죽은 아들의 매우 현실적인 아바타와 상호작용한 바이러스 사건으로 인해 규제의 긴급성이 더욱 강조되었습니다. 중국 소셜 미디어에서 널리 공유된 이 영상은 AI의 그러한 사용이 위안을 나타내는 것인지 아니면 속임수를 나타내는 것인지에 대한 논쟁을 촉발시켰습니다.
혁신과 위험의 균형
전문가들은 중국의 접근 방식이 급속한 기술 발전에 이어 신속한 규제 개입이 뒤따르는 익숙한 패턴을 반영한다고 말합니다. 당국은 특히 정서적 의존성을 조장하거나 어린이의 친밀한 관계를 시뮬레이션하는 AI 시스템을 금지하는 제안된 규칙을 통해 미성년자 보호에 대해 우려하고 있습니다.
동시에 업계 관계자들은 규제가 불가피하다는 점을 인정하고 있습니다. Super Brain의 창립자는 규칙 초안을 혁신과 책임의 균형을 맞추는 데 필요한 단계라고 설명했습니다.
앞으로 일어날 일
중국의 규정 초안은 5월 초까지 대중의 의견을 수렴할 예정이며, 그 이후에는 더욱 엄격한 집행이 예상됩니다. 정부의 더 넓은 목표는 AI 채택을 가속화하는 동시에 사회적 영향에 대한 엄격한 통제를 유지하는 것입니다.
“디지털 인간”이 새로운 것에서 주류 도구로 진화함에 따라 중국의 규제 모델은 특히 AI의 정체성, 동의 및 감정적 힘과 관련된 유사한 윤리적 문제를 해결하기 위해 고군분투하는 다른 국가의 청사진이 될 수 있습니다.