긴 옵션 목록을 바라보다가 머리가 포기하는 느낌을 받은 적이 있다면 혼자가 아닙니다. 코넬 대학의 연구원들은 이를 이해하고 그 순간에 바로 개입하여 귀하를 대신하여 결정하는 것이 아니라 귀하의 선택이 귀하가 관심 있는 가치와 일치하지 않는 경우 조용히 지적하는 IER(Interactive explain Ranking)이라는 도구를 구축했습니다.
이 도구는 실제로 어떻게 작동합니까?
IER은 결정을 AI에 넘기지 않고 이를 사용하여 결정이 실제로 의미가 있는지 확인합니다. 자신의 생각에 대한 현실 점검처럼 생각하십시오. 연구에 따르면 AI는 단 10분 만에 문제 해결 능력을 약화시킬 수 있지만 이 AI는 통제력을 유지하도록 설계되었습니다.
당신이 차를 고르려고 한다고 가정해보자. 비용, 신뢰성, 연료 효율성 등 귀하에게 가장 중요한 요소가 무엇인지 도구에 알려줍니다. 그런 다음 도구는 AI를 사용하여 가장 유용한 질문을 파악하는 일련의 일대일 비교를 안내합니다.
실제 선택 사항이 중요하다고 말한 값과 일치하지 않는 경우 도구는 모순에 플래그를 지정합니다. 어쩌면 당신은 자신도 모르게 빨간 차를 계속 고르고 있을지도 모릅니다. 도구는 해당 패턴을 표시하고 순위를 조정하거나 색상이 실제 요소로 간주되어야 하는 이유를 설명하도록 요청합니다.
그 결과는 실제로 설명하고 방어할 수 있는 최종 선택이다. AI 사용이 부적절하다고 생각되는 상황에서는 AI 기능을 완전히 끌 수도 있습니다.
실제 환경에서 테스트되었나요?
네, 그리고 잘 버텼습니다. 연구원들은 두 가지 실험을 진행했습니다. 하나는 참가자들이 단편 영화의 순위를 매겼고, 다른 하나는 4명의 조교가 코넬 컴퓨터 그래픽 과정에서 10개의 학생 프로젝트의 순위를 매겼습니다. 두 테스트 모두 기존 등급과 일치하는 일관되고 설명 가능한 결과를 보여주었습니다.
이 도구는 인간과 컴퓨터의 상호 작용에 관한 최고의 모임 중 하나인 ACM CHI 컨퍼런스에서 최우수 논문상을 수상했습니다. 다음번 중요한 결정에 IER을 사용해 보고 싶다면 공개적으로 사용할 수 있습니다.
이 도구는 일상적이고 부담이 적은 통화를 위해 제작된 것이 아니라 채용, 평가 또는 경쟁 선택과 같이 올바른 결정을 내리는 것이 실제로 중요한 순간을 위해 제작되었습니다. AI는 이미 일상적인 작업에 시간을 할애하고 있기 때문에 남은 결정에 대해 더 신중하게 생각하는 것이 가치 있는 것 같습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요