AI 챗봇을 사용하면 무엇이든 놀라울 정도로 쉽게 대화할 수 있으며 여기에는 상상할 수 있는 가장 무거운 주제도 포함됩니다. 그 개방성은 항상 양날의 검이었습니다. OpenAI는 이제 상황이 심각해졌을 때 신뢰할 수 있는 사람을 사진 속으로 데려오는 새로운 기능을 통해 이 문제를 해결하기 위한 조치를 취하고 있습니다.
회사는 신뢰할 수 있는 연락처라는 새로운 기능을 출시하고 있으며 성인 사용자를 위한 ChatGPT 설정에 표시되기 시작했습니다. ChatGPT가 심각한 자해 문제를 감지하면 경고를 받을 수 있는 사람 한 명을 지정할 수 있습니다.
신뢰할 수 있는 연락처는 어떻게 작동하나요?
신뢰할 수 있는 연락처 설정은 선택 사항이지만, 설정하기로 결정한 경우 지명하는 연락처가 최소 18세 이상(한국에서는 19세)인지 확인해야 합니다. 누군가의 이름을 지정하면 그 사람은 해당 역할이 실제로 무엇을 의미하는지 설명하는 초대장을 받게 되며, 해당 기능이 활성화되기까지 1주일 동안 수락해야 합니다. 거절하면 다른 사람을 선택할 수 있습니다.
경보 시스템 자체는 자동이 아닙니다. ChatGPT 시스템이 잠재적으로 우려되는 대화에 플래그를 지정하면 챗봇은 먼저 사용자에게 신뢰할 수 있는 연락처에 알림을 보낼 수 있음을 알리고 제안된 대화 시작자에게 직접 연락하도록 유도합니다. 그런 다음 특수 교육을 받은 검토자로 구성된 소규모 팀이 상황을 평가하기 위해 개입합니다. 심각한 위험을 확인한 경우에만 이메일, 문자 또는 앱 내 알림을 통해 연락처에 실제로 알림이 전송됩니다. 알림은 채팅 내용이나 대화 세부정보를 공유하지 않습니다. 단순히 자해가 잠재적으로 우려되는 방식으로 발생했다고 말하고 담당자에게 확인을 요청합니다. OpenAI는 1시간 이내에 사람의 검토를 완료하는 것을 목표로 한다고 말합니다.
OpenAI가 이것을 지금 추가하는 이유는 무엇입니까?
신뢰할 수 있는 연락처는 플랫폼의 광범위한 안전 기능 세트의 일부입니다. 이전에 OpenAI에는 연결된 청소년 계정에 조난 징후가 나타날 때 부모가 알림을 받을 수 있는 기능이 추가되었습니다. 신뢰할 수 있는 연락처는 이 동일한 기능의 성인용 확장입니다. 이는 미국심리학회(American Psychological Association)를 포함한 임상의, 연구자, 정신건강 기관의 의견을 바탕으로 개발된 것으로 알려졌습니다.
하지만 Trusted Contact는 위기 핫라인, 응급 서비스 또는 전문 정신 건강 관리를 대체하지 않는다는 점을 언급할 가치가 있습니다. ChatGPT는 필요할 때 사용자를 해당 리소스로 계속 안내합니다. 사용자는 언제든지 신뢰할 수 있는 연락처를 제거하거나 변경할 수 있으며, 연락처는 원할 때마다 스스로 제거할 수 있습니다.
문제의 현실은 OpenAI의 계획 여부에 관계없이 ChatGPT가 매우 개인적인 대화에 사용되고 있다는 것입니다. 신뢰할 수 있는 연락처와 같은 기능을 추가하는 것은 올바른 방향으로 나아가는 것이며 챗봇이 할 수 있는 일이 너무 많다는 점을 인정하는 것이기도 합니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요