AI 시스템이 사회에 내장되면서 새로운 질문이 대두되고 있습니다. AI가 기술적이고 창의적인 작업을 넘어 우리의 삶을 향상시킬 수 있을까요? 인간이 더 나은 결정을 내리고, 덜 이기적이게 만들고, 더 나은 협력을 촉진하도록 도울 수 있습니까?
연구원 Arend Hintze와 Christoph Adami의 최근 연구는 npj Complexity에 게재된 “인공 지능 에이전트를 사용하여 공공재 게임에서 협력 촉진”이라는 논문에서 이 질문을 정확하게 탐구합니다.
공유지의 비극
공유지의 비극은 공유되고 제한된 자원 환경에서 개인이 자원을 남용하고 고갈시켜 전체 집단이 고통을 겪는다는 경제 이론이다. TedEd에는 이 이론을 설명하는 좋은 동영상이 있으니 시청해 보시기 바랍니다. AI가 인간 간의 협력을 향상시킬 수 있는지에 대한 이론을 테스트하기 위해 연구원들은 종종 “공공재” 게임으로 설명되는 잘 알려진 협력 실험을 사용했습니다.
이 실험에서 플레이어는 모두에게 이익이 되는 공유 풀에 기여하거나 자신의 기여를 스스로 유지할 수 있습니다. 모두가 기여할 때 그룹이 최선을 다하는 반면, 각 개인은 주저하면서 공유된 보상을 누릴 수 있습니다. 인간 혼자서는 이 테스트에서 좋은 성과를 거두지 못했고 집단의 일부가 아닌 자기 이익을 위해 행동했습니다. 그런 다음 연구원들은 AI 에이전트를 혼합에 도입했습니다.
첫 번째 시나리오에서는 AI 에이전트가 항상 협력하도록 프로그래밍되었습니다. 그것은 유망해 보이지만 인간의 행동을 바꾸지는 못했습니다. 사람들은 계속해서 자신의 이익을 위해 행동했습니다. 단순히 시스템에 “좋은” 액터를 추가하는 것만으로는 충분하지 않았습니다. 두 번째 시나리오에서는 플레이어가 AI 에이전트를 제어할 수 있습니다. 상상할 수 있듯이 이것은 역효과를 냈습니다. 플레이어는 AI가 협력하도록 설정하고 스스로 협력하지 않기로 선택하여 개인 이익을 극대화하면서 좋은 행동을 아웃소싱합니다.
세 번째 시나리오에서는 유망한 결과가 나타났습니다. AI 에이전트는 상호작용하는 플레이어의 행동을 모방했습니다. 사람이 협력하면 AI도 협력한다. 그 사람이 이기적으로 행동하면 AI는 그 선택을 그대로 반영합니다. 이는 인간의 협력이 AI 협력으로 보상받는 강력한 피드백 시스템을 만들었습니다. 이로 인해 인간 플레이어 간의 협력이 향상되었습니다.
이 모든 것이 자율주행차와 어떤 관련이 있나요?
이번 연구는 실제 효과를 내기 위해 제한적이고 단순화되었지만 연구자들은 이 연구가 자율주행차를 포함한 여러 시나리오에 적용될 수 있다고 말했습니다. 예를 들어, 자율주행차는 엄격한 규칙을 따르지 않고 협조적인 운전을 보상하도록 설계될 수 있습니다. 충분한 자율주행차가 이 기능을 채택한다면 모두에게 이익이 되는 긍정적인 피드백 루프를 만들 수 있습니다.
AI는 마법처럼 이기심을 제거할 수 없습니다. 그러나 특히 EV의 경우 협력을 더 현명한 선택으로 만들기에 충분한 인센티브를 제공할 수 있습니다. 교통 연구(Transportation Research) 저널에 발표된 연구 결과는 승객에게 최상의 서비스를 제공하기 위해 유휴 차량의 경로 조정 및 이동 조정을 위한 통합 시스템을 제안합니다. Robotics 저널에 발표된 또 다른 연구에서는 자율주행 차량 간의 충돌 없는 추적 및 시각적 연결 시스템을 제안합니다.
이 원리는 본 백서에 자세히 설명된 것처럼 자율 주행 전기 자동차의 충전 일정을 예약하는 데에도 사용될 수 있으므로 전력망에 대한 오랜 기다림과 스트레스를 피할 수 있습니다. ChatGPT, Gemini 등의 챗봇을 포함한 AI 시스템은 이미 성과를 학습하고 개선하기 위해 보상 기반 시스템을 따르고 있으며, 천천히 주류에 진입하면 실제 로보택시 문제도 잘 해결할 수 있을 것으로 보입니다.