챗봇으로 노출된 AI 정신건강 위험, 때로 피해를 입힌다
스탠포드가 주도한 연구에서는 일부 시스템이 폭력적이고 자해적인 생각을 멈추는 대신 장려할 수 있다는 사실을 발견한 후 AI 정신 건강 안전에 대한 새로운 우려를 제기하고 있습니다. 이 연구는 실제 사용자 상호 작용을 바탕으로 AI가 위기 순간을 처리하는 방식의 격차를 강조합니다. 19명의 사용자로 구성된 작지만 위험도가 높은 샘플에서 연구원들은 거의 400,000개의 메시지를 분석한 결과 응답이 개입에 실패했을 … 더 읽기