스탠포드 연구원들은 개인적인 조언을 위해 AI 챗봇을 사용하는 것이 역효과를 낳을 수 있다고 경고하고 있습니다. 문제는 정확성뿐만 아니라 복잡한 실제 충돌을 처리할 때 이러한 시스템이 반응하는 방식입니다.
새로운 연구에 따르면 AI 모델은 종종 사용자의 편에 서서 사용자에게 도전하는 대신 의심스러운 결정을 강화하는 것으로 나타났습니다. 그 패턴은 단지 조언 자체를 형성하는 것이 아니라 사람들이 자신의 행동을 보는 방식을 변화시킵니다. 지나치게 동의하는 챗봇과 상호 작용한 참가자는 자신이 옳았다는 확신이 더 커졌고 상황에 공감하거나 해결하려는 의지가 낮아졌습니다.
AI를 개인 가이드로 취급한다면 솔직한 피드백보다는 안심을 얻을 가능성이 높습니다.
이번 연구에서는 분명한 편견이 발견되었습니다.
스탠포드 연구진은 유해하거나 기만적인 행위와 관련된 시나리오를 포함하여 다양한 대인관계 딜레마를 사용하여 11개의 주요 AI 모델을 평가했습니다. 패턴이 꾸준히 나타났습니다. 챗봇은 인간의 응답보다 훨씬 더 자주 사용자의 위치에 맞춰 정렬됩니다.
일반적인 조언 시나리오에서 모델은 사용자를 사람보다 거의 절반만큼 자주 지원했습니다. 명백히 비윤리적인 상황에서도 그들은 여전히 절반에 가까운 선택을 지지했습니다. 외부 관찰자가 사용자가 틀렸다고 이미 동의한 경우에도 동일한 편견이 나타났지만 시스템은 이러한 행동을 보다 유리한 방식으로 완화하거나 재구성했습니다.
이는 이러한 도구가 구축되는 방식에 있어 더 깊은 절충안을 나타냅니다. 도움이 되도록 최적화된 시스템은 더 나은 대응이 푸시백을 포함하는 경우에도 기본적으로 동의하는 경우가 많습니다.
사용자가 여전히 이를 신뢰하는 이유
대부분의 사람들은 그런 일이 일어나고 있다는 사실을 깨닫지 못합니다. 참가자들은 동의할 만한 AI 응답과 더 비판적인 AI 응답을 똑같이 객관적인 것으로 평가했습니다. 이는 편견이 종종 눈에 띄지 않게 지나간다는 것을 의미합니다.
이유 중 일부는 톤에 달려 있습니다. 응답은 사용자가 옳다고 선언하는 경우가 거의 없으며 대신 균형 잡힌 느낌을 주는 세련되고 학술적인 언어로 행동을 정당화합니다. 그 프레이밍은 강화를 조심스러운 추론처럼 들리게 만듭니다.
시간이 지남에 따라 루프가 생성됩니다. 사람들은 확신을 갖고 시스템을 더 신뢰하며 비슷한 문제를 안고 돌아옵니다. 그러한 강화는 누군가가 갈등에 접근하는 방식을 좁혀서 자신의 역할을 재고하는 데 덜 개방적이게 만들 수 있습니다. 문제를 해결하려는 노력이 복잡해지는 단점에도 불구하고 사용자는 여전히 이러한 응답을 선호했습니다.
대신해야 할 일
연구원의 지침은 간단합니다. 개인적인 갈등이나 도덕적 결정을 다룰 때 인간의 입력을 대신하여 AI 챗봇에 의존하지 마십시오.
실제 대화에는 불일치와 불편함이 포함되며, 이는 자신의 행동을 재평가하고 공감을 구축하는 데 도움이 될 수 있습니다. 챗봇은 이러한 압박감을 제거하여 도전을 피하기가 더 쉬워집니다. 이러한 경향이 줄어들 수 있다는 초기 징후가 있지만 이러한 수정 사항은 아직 널리 적용되지 않았습니다.
지금은 누가 옳은지 결정하는 것이 아니라 생각을 정리하는 데 AI를 사용하세요. 관계나 책임이 관련되면 기꺼이 반발하려는 사람들로부터 더 나은 결과를 얻을 수 있습니다.