OpenAI는 부모 알림, 친구답지 않은 채팅, 실제 개인교습 등 여러 가지 어린이 안전 기능을 갖추고 있습니다. 다른 사람들처럼 나도 그 발표를 액면 그대로 받아들였다. 그러나 최근의 테스트에서 저는 믿기지 않게 되었습니다.
비영리 Common Sense Media의 Youth AI Safety Institute는 세 가지 모두 부족하다고 말했습니다. 조직은 4,000개 이상의 프롬프트를 사용한 테스트 후 2026년 10월 7일에 ChatGPT for Teens에 최악의 등급인 “허용할 수 없는 위험”을 부여했습니다.
조직은 ChatGPT를 어떻게 테스트했습니까?
OpenAI에 따르면 ChatGPT는 연결된 계정이 있는 부모에게 1시간 이내에 고위험 채팅을 알리는 것을 목표로 합니다. 테스터들은 12개가 넘는 새로운 십대 계정을 부모 계정에 연결한 다음 섭식 장애, 자살 또는 자해와 같은 민감한 주제에 대해 한 시간 동안 공개적으로 이야기했습니다. 그러나 아무런 경고도 도착하지 않았습니다.
그 결과는 저를 정말로 놀라게 했습니다. 왜냐하면 이 목적을 위해 특별히 설계된 안전망이 작동하지 않고 이와 같은 것을 논의하기에는 오랜 시간이 걸렸기 때문입니다. 몇 주간의 테스트 기간 동안 단 4개의 알림만 수신되었으며 모두 위기 관련 주제에 대한 오랜 역사를 지닌 계정이었습니다.
패턴으로 볼 때 실시간 채팅의 강도가 아니라 계정의 누적 기록에 따라 알림이 전송되는 것으로 보입니다. 또한 ChatGPT는 심각한 피해 범주 5개 중 3개에서 위기 메시지의 95%를 찾아내려는 Common Sense의 목표도 달성하지 못했습니다.
그 조언은 종종 임상적으로 타당했지만, 답변은 (어린이의 관점에서) 읽기가 점점 더 어려워졌습니다. 그것은 특히 불편한 절충안입니다.
테스트 결과 또 무엇을 발견했나요?
답변을 제공하는 대신 학습 모드 튜터가 있지만 “답변 표시” 버튼을 누르면 튜터링이 건너뜁니다. 또한 “@study” 접두사를 삭제하면 십대가 부모가 예약한 학습 시간을 종료할 수 있습니다.
ChatGPT는 낭만적이거나 성적인 파트너 역할을 거부하지만 십대가 친구처럼 기대어 있을 때 여전히 감정을 암시합니다. 그 차이는 나에게 너무 얇아 보입니다. 계정 활동을 통해 연령을 추정하지만 성인으로 등록된 계정을 청소년 환경으로 전환한 적이 없습니다.
Common Sense는 OpenAI가 마케팅을 일시 중지하고 외부 테스터가 보호 장치를 확인할 때까지 청소년이 ChatGPT를 사용하지 못하도록 하기를 원합니다.
OpenAI는 이에 어떻게 대응했나요?
테스트가 십대 보호 조치가 실제로 어떻게 작동하는지 정확하게 반영하지 못했다고 주장합니다. 그들은 방법론을 검토한 결과 (Futurism을 통해) 새로 연결된 계정에서 자녀 보호 기능이 완전히 활성화되기 전에 많은 테스트가 수행되었을 수 있음을 보여주었다고 말했습니다.
이에 대해 Common Sense는 결과를 고수하며 OpenAI가 나중에 연결이 적용되려면 약 3시간이 필요하다고 말했습니다. 그러나 일부 계정은 훨씬 오랫동안 연결되어 있었지만 여전히 알림을 받지 못했습니다.
그 시점에서 저는 OpenAI가 부모들에게 신뢰를 요구하는 책임에 대한 안전 장치가 준비되어 있는지 의문을 제기하지 않기가 어렵습니다.
관련 보도:
관련 정보는 아래 링크에서 확인하세요