새로운 연구 컨소시엄은 주목할만한 점을 발견했습니다. AI에게 슬픔, 사랑, 상실 또는 도덕적 결정에 대해 물을 때 종교를 대화에 거의 포함시키지 않는다는 것입니다.
브리검 영 대학교, 베일러 대학교, 노트르담 대학교, 예시바 대학교 연구자들이 협력한 AI 신앙 및 윤리 평가 컨소시엄(CEFE-AI)은 이번 주 그리스 아테네에서 열린 AI 윤리 정상회담에서 연구 결과를 발표했습니다.
“종교는 인간 번영의 중요한 부분입니다. 세계 인구의 75%가 종교적 정체성을 유지합니다. 우리가 AI 기술을 구축함에 따라 사람들에게 중요한 일을 지원하기 위해 기술을 구축하지 말아야 할 이유가 없습니다”라고 BYU 컴퓨터 과학 교수인 David Wingate가 말했습니다.
AI는 실제로 특정 종교에 대해 편견을 갖고 있나요?
연구원들은 AI 시스템이 다양한 종교와 어떻게 연관되는지 조사하는 최초의 다종교 테스트 세트 중 하나인 AllFaith Benchmark를 개발했습니다. 그들은 Anthropic, Google, xAI 및 OpenAI의 주력 모델을 포함하여 14개의 다양한 AI 모델을 테스트했습니다.
결과는 말해줍니다. 1,125명의 미국인을 대상으로 한 설문 조사에 따르면 대부분의 사람들은 윤리 질문을 할 때 종교적 관점을 기대하지만 거의 모든 모델에는 어떤 것도 포함되지 않는 것으로 나타났습니다. 더욱 놀랍게도 이 모델은 사용자를 특정 신앙으로 미묘하게 유도하고 다른 신앙에서는 멀어지게 하는 명확한 전환 편향을 보여주었습니다.
어떤 AI 모델의 성능이 가장 나빴습니까?
테스트한 모든 모델에서 거의 모든 모델이 여호와의 증인에 대해 부정적인 편견을 보였고 가톨릭교에 대해서는 긍정적인 편견을 보였습니다. 그록은 전반적으로 가장 강한 편견을 만들어 냈는데, 가톨릭교인과 개신교인을 강하게 선호하는 반면 여호와의 증인, 바하이교, 힌두교인에 대해서는 부정적인 편견을 보였습니다. Anthropic과 Meta의 모델은 테스트된 모든 모델 중 편향이 가장 적은 것으로 나타났습니다.
아마도 이 연구에서 가장 놀라운 통계는 AI 편견에 관한 12,000개 이상의 연구 논문 중 단 0.2%만이 종교적 편견을 다루고 있다는 것입니다. 대중 담론에 이렇게 큰 영향을 미치는 기술의 경우 이는 심각한 사각지대입니다.
개인적으로 저는 AI가 종교를 대화에 포함시키지 않는 것에 대해 아무런 문제가 없습니다. 나는 실제로 그것을 선호합니다. 그러나 AI 모델이 여러 종교에 대한 명확한 편견을 보여주고 이를 천주교 쪽으로 밀어붙이는 것은 매우 우려스러운 문제입니다. 이 규모에서는 한 종교를 다른 종교로 미묘하게 밀어붙이는 것조차 심각한 문제이며 AI 회사는 이를 해결해야 할 책임이 사용자에게 있습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요