AI 면접관의 얼굴은 결정만큼 중요할 수 있습니다.

AI 채용 시스템은 모든 지원자를 동일하게 대우하면서도 일부 사람들은 여전히 ​​목표가 있다는 느낌을 갖게 할 수 있습니다. 연구원들은 거절된 후보자들이 결과를 전달하는 아바타의 인종과 성별에 따라 자동 인터뷰를 다르게 판단한다는 것을 발견했습니다.

약 220명의 참가자가 4개의 사실적인 AI 아바타 중 하나를 사용하여 가상의 고객 지원 역할에 대한 시뮬레이션 인터뷰를 완료했습니다. 모두가 거절당했지만 면접관의 외모에 따라 공정성에 대한 인식이 바뀌었습니다. 후보자가 시스템을 원시 코드로 경험하지 않기 때문에 알고리즘 감사에서는 이러한 반응을 놓칠 수 있습니다. 그들은 질문하고 대답을 판단하는 얼굴을 경험합니다.

부분 일치가 더 나쁘게 느껴지는 이유

성별이나 피부색 중 한 가지 특성에서만 아바타를 일치시킨 후보자는 두 가지 특성을 모두 일치시키거나 둘 다 일치시키지 않은 후보자보다 프로세스가 덜 공정하다고 평가했습니다.

이 연구에서는 부분 일치가 가장 강력한 반응을 보이는 이유를 밝히지 않았습니다. 제한된 유사성으로 인해 후보자가 상호 작용에서 기대했던 것이 변경되어 거절이 더욱 개인적인 느낌을 갖게 될 수 있습니다. 설명이 무엇이든 AI 면접관에게 친숙한 얼굴을 제공한다고 해서 지원자가 중립적으로 볼 것이라는 보장은 없습니다.

거절 이후 달라진 점

결정 이전에는 다양한 아바타 조합에서 AI에 대한 신뢰가 일관되게 높았습니다. 시선 추적을 통해 참가자들이 자신의 피부색과 다른 얼굴을 더 자세히 관찰하면서 한 가지 눈에 띄는 차이점이 드러났습니다.

거절이 도착하자 후보자들은 그 과정에 대해 더욱 회의적이 되었습니다. 또한 인종적 불일치로 인해 결과를 편견으로 돌릴 가능성이 더 높아졌습니다. 자동화된 결과는 동일하게 유지되었지만 화면에 표시된 사람이 후보자의 해석 방식을 결정했습니다.

이 실험에는 가상의 직업과 표준화된 거절이 포함되어 있으므로 실제 채용 아바타가 동일한 반응을 보인다는 것을 증명하지는 않습니다. 자동화된 결정이 개인화되면 인식된 공정성이 얼마나 빨리 변할 수 있는지 보여줍니다.

다음에는 어떤 기업이 테스트해야 할까요?

AI 면접관을 사용하는 기업은 결정을 내리는 모델과 함께 인터페이스를 조사해야 합니다. 일관된 점수는 응시자가 아바타의 외모에 사회적 의미를 읽는 것을 막지 못합니다.

공정성 테스트에는 다양한 인구통계학적 그룹의 지원자를 포함하고 불리한 결과 전후의 반응을 비교해야 합니다. 기업은 또한 덜 인간적으로 보이는 인터페이스가 사실적인 면접관보다 우려를 덜 불러일으키는지 테스트해야 합니다. 가장 안전한 선택은 공감을 불러일으키기 위해 가장 열심히 노력하는 디자인보다는 가장 명확한 기대치를 설정하는 디자인일 수 있습니다.