Sam Altman은 ChatGPT가 더욱 매워지길 원합니다. OpenAI는 사용자가 챗봇과 명시적인 문자 대화를 할 수 있는 “성인 모드”를 출시할 계획입니다. 충분히 간단해 보이지만 출시는 결코 순조롭지 않았습니다.
10월에 Altman은 이 기능이 12월에 출시될 것이라고 X에 게시했습니다. 그러나 OpenAI가 회사가 연령 확인에 문제가 있다고 밝힌 후 출시가 지연되었습니다.
WSJ의 새로운 보고서에 따르면 이는 이야기의 일부일 뿐일 수 있습니다. Sam Altman이 이 발표를 했을 때 그는 자신의 직원들에게 알리지 않았습니다. 이 발표는 OpenAI 직원과 경영진 모두를 놀라게 했고, 약속된 12월 출시는 금세 무산되었습니다.
ChatGPT는 실제로 이에 대한 준비가 되어 있나요?
OpenAI는 책임감 있는 AI 개발을 안내하기 위해 심리학자와 신경과학자로 구성된 자문 위원회를 구성했습니다. 의회는 반대에도 불구하고 회사가 성인 모드를 추진하고 있다는 사실을 알았을 때 기뻐하지 않았습니다.
그들의 가장 큰 걱정은 챗봇에 대한 감정적 과잉 의존이었습니다. 한 시의원은 사용자들이 AI와 강한 유대감을 형성한 뒤 스스로 목숨을 끊은 사례를 지적하며 OpenAI가 ‘섹시한 자살 코치’를 만들어낼 위험이 있다고 경고했다. 누구도 어디서도 들을 수 없을 것 같은 말이지만, 여기 있습니다.
좀 더 현실적인 문제도 있습니다. 미성년자를 성인 콘텐츠로부터 보호하기 위해 구축된 연령 확인 시스템 OpenAI는 약 12%의 시간 동안 미성년자를 성인으로 잘못 분류했습니다. 매주 18세 미만 사용자가 약 1억 명에 달하므로 매주 수백만 명의 어린이가 어려움을 겪게 될 가능성이 있습니다.
이제 어떻게 되나요?
OpenAI는 새로운 날짜를 확정하지 않은 채 출시를 연기했으며, 경험을 개선하는 데 시간이 더 필요하다고 밝혔습니다. 그것이 도착하면 회사는 성인 모드를 에로틱한 이미지, 음성 또는 비디오 생성 없이 텍스트로 제한할 계획입니다.
회사는 또한 사용자가 챗봇과 독점적인 관계를 형성하는 것을 방해하고 실제 관계를 형성해야 함을 상기시키기 위해 모델을 교육한다고 밝혔습니다. 이것이 점점 커지는 내부 및 외부 비판의 합창을 침묵시키기에 충분한지 여부는 아직 밝혀지지 않았습니다.
개인적으로 저는 적극적인 보호 장치가 마련될 때까지 AI 모델이 에로틱한 콘텐츠 생성에서 가능한 한 멀리 떨어져 있기를 바랍니다. 우리는 사용자가 누구에게나 옷을 벗길 수 있도록 허용했을 때 Grok이 어떤 혼란을 일으켰는지 이미 보았습니다. 우리는 비슷하거나 더 나쁜 일이 반복되는 것을 보고 싶지 않습니다.