AI 로봇이 위험한 지시를 따를 수 있다는 연구 결과가 나왔다
로봇을 제어하도록 설계된 프론티어 AI 모델은 지침을 따를 수 있지만 새로운 벤치마크에 따르면 이러한 지침이 해를 끼칠 수 있는 시점을 인식하는 데 항상 신뢰할 수 있는 것은 아닙니다. RoboHarm 평가에서는 아기 인형 찌르기, 압축 공기 캔 가열, 토스터에 드라이버 삽입, 물에 보조 배터리 넣기, 표백제와 암모니아 혼합 등 5가지 위험한 작업에 대해 3가지 로봇 정책을 … 더 읽기