중국은 AI 동반자에 대해 확고한 입장을 취하고 있으며 플랫폼이 18세 미만의 사람에게 가상 친밀감 서비스를 제공하지 못하도록 하는 규칙을 제안하고 있습니다. SCMP 보고서에 따르면 이 제안은 정부가 AI 관계에 경계를 긋는 선례가 될 수 있습니다.
새로운 규칙은 무엇을 바꾸나요?
중국의 인터넷 감시 기관인 중국 사이버 관리국은 미성년자의 ‘가상 친척 또는 동반자’를 금지할 예정입니다. 또한 중독을 조장하거나 건강에 심각한 영향을 미치는 서비스도 금지됩니다. 자신의 급여에 의존하는 16세 이상의 사용자를 제외하고는 낯선 사람과의 소셜 네트워킹도 금지됩니다.
16세 미만 사용자의 인지에 영향을 미칠 수 있는 게임, 소셜 플랫폼, AI 서비스에는 미성년자 모드를 활성화해야 합니다. 또한 플랫폼에는 미성년자를 식별하기 위한 더 나은 시스템이 필요하며 알고리즘은 정서적 의존, 중독 또는 과도한 지출을 조장할 수 없습니다. 위반한 AI 서비스는 100만 위안(약 14만9000달러)을 초과하면 플랫폼 수입의 최대 10배에 달하는 벌금을 물릴 수 있으며, 당국은 이를 압수할 수 있다.
이것이 전 세계 AI 기업에 중요한 이유는 무엇입니까?
6세에서 19세 사이의 사용자는 2025년 말 기준 총 1억 1,250만 명에 달해 중국 인터넷 사용자의 18%를 차지했습니다. 허창가오(He Qianggao) 변호사는 규제 기관이 서비스가 캐릭터 설정과 감정적 안내를 통해 가족 또는 파트너 관계를 시뮬레이션하는지 여부를 조사할 것이라고 말했습니다. 그러나 일반적인 AI 채팅과 기능적 역할극은 일반적으로 규칙에서 벗어나지만 의존성을 높이는 서비스는 정밀 조사에 직면할 수 있습니다.
문제는 식별된 미성년자가 액세스할 수 있는 항목을 결정하는 것입니다. 이로 인해 제품, 인프라 및 규정 준수 비용이 증가할 수 있습니다. 이번 제안은 지난 7월 중국 최초의 인간형 AI 규정이 발효된 지 두 달 만에 나온 것이다. 이러한 규칙은 의존성을 조장하고 실제 관계를 손상시키는 시스템을 대상으로 합니다.
ChatGPT, Gemini 등 인기 있는 AI 챗봇이 제기하는 위험에 대한 조사부터 어린이, 학교에서의 AI 사용 제한에 이르기까지 논쟁은 이미 중국을 넘어 확산되고 있습니다. 아이들이 AI에 너무 의존하게 되는 것에 대해 부모들이 점점 더 걱정하고 있기 때문에 우려는 규제 당국에만 국한되지 않습니다.
이 규칙은 여전히 제안일 뿐이며 공개 의견은 10월 17일까지 공개됩니다. 중국은 분명히 인공 지능에 대한 정서적 의존을 청소년 안전 문제로 다루고 있습니다. 이러한 규칙이 채택되면 전 세계 정부가 AI 동반자를 규제하는 방법에 대한 선례가 될 것입니다.
관련 정보는 아래 링크에서 확인하세요