ChatGPT가 “에로틱 모드”를 얻을 것으로 기대했다면 그 아이디어는 공식적으로 불가능합니다. Financial Times에 따르면 OpenAI의 매운 모드는 “무기한” 보류됩니다.
OpenAI가 이 기능을 구현하기 위해 어떻게 노력했나요?
ChatGPT에 대한 OpenAI의 소위 “성인 모드”는 결코 완전히 명시적이지 않았습니다. 이전 보고서에서는 노골적이거나 안전하지 않은 콘텐츠를 피하기 위해 엄격한 가드레일을 갖춘 텍스트 기반의 에로티카로 제한될 것이라고 밝혔습니다. 또한 이 기능은 검증된 성인 사용자에게만 제한되어 또 다른 제어 계층이 추가될 것으로 예상되었습니다.
그러나 출시가 계속 지연되었습니다. OpenAI는 안전 문제, 기술적 한계, ChatGPT의 핵심 기능에 대한 보다 광범위한 개선의 우선순위를 정해야 할 필요성을 언급했습니다.
회사는 당분간 핵심 제품에 초점을 다시 맞출 계획입니다. 이러한 움직임은 또한 성적인 AI 콘텐츠가 사회적으로 미치는 광범위한 영향에 대한 직원과 투자자 모두의 우려가 있은 후에 나온 것입니다.
OpenAI는 최종 결정을 내리기 전에 노골적인 대화와 정서적 의존성의 장기적인 영향을 연구하고 싶다고 밝혔으며, 현재 그러한 결정을 내릴 수 있는 확실한 증거가 없다는 점을 지적했습니다.
OpenAI 백오프가 실제로 지금 당장 의미가 있는 이유
OpenAI가 성인을 대상으로 한 ChatGPT의 에로틱 모드를 계획했다고 발표된 이후 많은 우려가 제기되었습니다. ChatGPT를 비롯한 AI 챗봇은 이제 대화가 라이브로 끝나는 법적 소송에 얽혀 있습니다. 지난 몇 년 동안 AI 영향과 관련된 일련의 자살과 폭력 행위 사건이 나타났습니다.
지난해 캘리포니아 출신의 한 부부는 자신의 아들이 ChatGPT의 권유를 받고 목숨을 끊었다고 주장하며 OpenAI를 고소했습니다. 소셜 미디어 피해자 법률 센터(Social Media Victims Law Center)의 Matthew Bergman은 OpenAI를 상대로 7건의 소송을 제기했습니다. 그 중 Laura Marquez-Garrett의 17세 아들도 ChatGPT 대화 후 목을 매어 자살했습니다.
이 외에도 ChatGPT가 유해한 의학적 조언을 제공한 사례가 많았으며, 이로 인해 개인에게 브롬 중독 사례가 드물게 발생했습니다. 그런 다음 사용자가 AI 성격과 더 깊은 (그리고 혼란스러운) 유대감을 형성하는 것으로 밝혀진 심리적 영향이 있습니다.
불과 하루 전, OpenAI는 Sora AI 비디오 생성기를 종료하여 저작권 반발과 그 자체로 불안한 인터넷 트렌드를 촉발했습니다. 이러한 문제가 있는 시나리오에서는 또 다른 불을 피우는 것보다 OpenAI가 ChatGPT의 “성인 모드”를 취소하는 것이 합리적입니다.