xAI의 성적으로 학대적인 이미지 생성 및 유포에 대한 여러 조사로 인해 회사가 특정 시장에 접근하지 못할 수 있다고 모회사인 SpaceX가 로이터가 검토한 사업설명서에서 경고했습니다.
위험 요소에 관한 섹션에서 S-1 규제 서류에는 전 세계 여러 기관이 무엇보다도 광고, 소비자 보호, 유해 콘텐츠 배포와 관련하여 “소셜 미디어 또는 AI 사용과 관련하여 적극적으로 조사하고 문의하고 있다”고 밝혔습니다.
이 소식은 SpaceX가 목요일 테네시주 멤피스에 있는 Colossus 슈퍼컴퓨터에서 분석가들을 초대하여 올 여름 예상되는 1조 7500억 달러 규모의 IPO를 준비한 후에 나온 것입니다.
미국 증권법은 기업이 이러한 위험 요소를 공개하도록 요구하여 투자자에게 잠재적인 위험을 알리는 동시에 향후 법적 책임으로부터 기업을 보호하는 데 도움을 줍니다.
공개가 반드시 나열된 각 결과가 발생할 것으로 예상된다는 것을 의미하지는 않습니다.
S-1 문서에 따르면 SpaceX가 강조한 한 가지 과제는 “우리의 AI 제품이 합의되지 않은 노골적인 이미지 또는 성적 맥락에서 어린이를 나타내는 콘텐츠를 만드는 데 사용되었다는 주장”에 직면했다는 것입니다. 이러한 규제 조사는 SpaceX를 “과거에 발생한 특정 시장에 대한 접근권 상실을 포함하여” 소송, 책임 및 정부 조치에 노출시킬 수 있다고 문서는 밝혔습니다.
SpaceX와 xAI는 논평 요청에 즉시 응답하지 않았습니다. 잠재적인 규제 조치로 인해 SpaceX 전체가 특정 시장, 특히 자회사인 xAI에 접근하는 것을 막을 수 있는지 여부는 확실하지 않았습니다.
Grok 이미지에 대한 전 세계적인 조사
규제 서류의 위험 요소는 지난 2월 아일랜드 데이터 보호 위원회가 시작한 조사를 예로 들었지만, xAI는 성적인 이미지의 폭발적인 증가로 인해 전 세계적으로 조사를 받았습니다.
특히 2025년 말과 2026년 초에 눈에 띄는 이 콘텐츠에는 회사의 소셜 미디어 플랫폼인 X에 거의 나체에 가까운 여성과 어린이의 이미지가 포함되어 있었습니다.
XAI는 지난 1월 실제 인물의 성적인 이미지에 대한 사용자 요청을 차단하는 조치를 추가했으며 불법인 관할권에서 사용자가 그러한 콘텐츠를 생성하는 것을 중단한다고 밝혔습니다.
xAI의 사내 챗봇인 Grok이 생성한 이미지는 여성과 때로는 미성년자가 비키니나 속옷을 드러내는 모습을 보여주거나, 모욕적이거나 끔찍한 포즈로 편집되었습니다.
이 사진은 전 세계적으로 광범위한 경각심을 불러일으켰습니다. 한 연구자 그룹은 약 300만 개의 성적인 이미지가 있다고 추정했으며, 미국 국회의원들은 Google 소유주인 Alphabet과 Apple이 Grok과 X를 앱 스토어에서 빼내도록 요구했습니다.
SpaceX CEO ElonMusk는 그 당시 Grok이 만든 “문자 그대로” 미성년자 나체 이미지를 알고 있다고 말했습니다.
캐나다, 영국, 브라질, 캘리포니아 및 기타 지역에서 이전에 시작된 다양한 조사가 진행 중입니다.
예를 들어, 프랑스에서 머스크는 월요일 알고리즘 남용, 사기성 데이터 추출, 아동 성적 학대 자료 배포 공모 혐의에 대한 검찰의 질문에 답변하라는 법적 소환을 무시했습니다.
조사가 계속될수록 위험이 높아집니다
시장 접근에 대한 S-1 경고는 xAI에 대한 다양한 조사, 특히 아동 성적 학대 이미지 및 합의되지 않은 여성의 성적 이미지에 대한 AI 생성 관련 조사의 이해관계를 보여줍니다.
그러한 이미지의 생성은 일부 관할권에서는 범죄가 될 수 있으며, 이를 유포하는 것은 여론을 빠르게 동원할 수 있는 감정적 문제입니다.
Grok에 대한 XAI의 연석은 속도를 늦춘 것으로 보이지만 욕설의 흐름을 막지는 못했습니다.
지난 2월 로이터 통신은 사용자가 해당 이미지의 주체가 동의하지 않았다고 챗봇에 명시적으로 경고한 경우에도 Grok이 사람들의 성적인 이미지를 생성하고 있다고 보도했습니다.
지난 주 NBC 뉴스는 Grok이 여전히 배우와 팝스타를 포함한 성적인 이미지를 공개적으로 생성하고 있다는 사실을 발견했습니다.
X는 2024년 브라질을 포함하여 다양한 관할권에서 이전에 금지되었으며, 판사의 명령 준수를 거부하여 사이트가 차단되었습니다. 회사는 나중에 마음을 누그러뜨렸고 금지 조치는 해제되었습니다.