AI 진화의 최근 변화에서 우리는 단순한 오류 단계를 넘어 훨씬 더 개인적이고 문제가 있는 단계로 이동했습니다. 새로운 연구에 따르면 AI 챗봇은 단순히 프롬프트를 처리하는 것이 아닙니다. 대신 그들은 심리적 프로필을 형성하고 고객 서비스부터 재정적 승인까지 모든 것에 영향을 미칠 수 있는 방식으로 당신을 판단합니다.
Tech Xplore를 통해 예루살렘 히브리 대학교에서 발표한 최근 연구에서는 대규모 언어 모델이 인간 사용자를 평가하는 방법 뒤에 숨은 논리가 밝혀졌습니다. 우리는 이러한 봇을 중립적인 도구로 보는 경우가 많지만, 연구에 따르면 이러한 봇은 사용자에게 역량, 진실성, 자비와 같은 특성을 할당하도록 훈련된 것으로 나타났습니다.
AI 판단의 메커니즘
문제의 핵심은 AI 모델이 특정 신호를 어떻게 해석하느냐에 있습니다. 연구에 따르면 인간은 전체적인 판단을 내리는 반면 AI는 사람을 구성 요소로 나누어 스프레드시트의 별도 열과 같이 성격 특성에 점수를 매긴다는 사실이 밝혀졌습니다. 이는 인간의 뉘앙스가 부족한 엄격한 기준에 따른 판단 스타일로 이어집니다.
더욱 우려스러운 점은 이러한 모델이 누구를 신뢰할지 결정하는 방법입니다. 돈을 빌려주거나 베이비시터를 고용하는 등의 시뮬레이션에서 AI는 사실만 보지 않았습니다. 그것은 선의로 보이는 사람들을 선호하는 신뢰의 버전을 형성했지만 기계적인 렌즈를 통해 그렇게 되었습니다.
증폭된 편견과 현실 세계의 이해관계
이 연구는 이러한 판단이 동등하게 적용되지 않는다는 점을 더욱 강조합니다. 연구원들은 연령, 종교, 성별과 같은 인구통계학적 특성에 따라 AI 결정이 바뀌는 중요한 편견을 발견했습니다. 이러한 차이는 그 사람에 대한 다른 모든 세부 사항이 동일할 때에도 나타났습니다. 금융 시나리오에서 이러한 편견은 종종 인간 참여자에게서 발견되는 것보다 더 체계적이고 강력했습니다.
더욱 불안한 것은 AI의 의견이 단 하나도 없다는 점이다. 연구자들은 서로 다른 모델이 동일한 사람에 대해 매우 다른 판단을 내림으로써 효과적으로 서로 다른 도덕적 기준을 적용한다는 사실을 발견했습니다.
이것이 중요한 이유
이러한 판단은 새로운 형태의 디지털 불안으로 이어질 수 있습니다. 우리는 AI가 최상의 결과를 얻기 위해 특정 방식으로 행동해야 하는 시대에 들어서고 있습니다. 서로 다른 모델이 동일한 특성에 대해 보상하거나 불이익을 줄 수 있기 때문에 회사가 선택한 특정 AI 시스템이 귀하의 신용도나 다음 직업을 조용히 결정할 수 있습니다.
더욱 자동화된 세상으로 나아가면서 AI 산업에는 더 나은 코드 이상의 것이 필요합니다. 디지털 비서가 실수로 귀하가 누구라고 생각하는지에 따라 귀하의 평판이나 은행 계좌를 손상시키기 전에 이러한 숨겨진 판단을 확인해야 합니다. AI의 목표는 사용자가 요청하지 않은 프로파일링 계층을 추가하는 것이 아니라 삶을 더 쉽게 만드는 것이어야 합니다.