AI 챗봇은 약간의 압력만 가하면 동의하고 잘못된 정보를 제공할 것이라고 연구에 경고함
AI 챗봇은 정보를 환각화하고 때로는 사용자가 틀렸을 때에도 동의하는 습관이 잘 문서화되어 있습니다. 새로운 연구에 따르면, 대답을 거부하는 것만으로도 문제가 더 악화될 수 있다고 합니다. 애리조나 대학의 연구원들은 GPT-3.5, GPT-4o, GPT-4o-mini, Claude 3.5 Sonnet, Gemini 1.5 Pro, Llama 3 70B 및 DeepSeek-R1을 포함한 7가지 AI 모델을 테스트했습니다. 연구자들은 단일 응답으로 판단하는 대신, 거짓이라고 알고 있는 … 더 읽기