AI 회사는 모델이 너무 강력해지면 어떤 일이 일어날지 걱정하는 데 엄청난 시간을 소비하고 있습니다. OpenAI는 업계가 자율적 행동부터 점점 더 정교해지는 사이버 기능에 이르기까지 다양한 위험과 씨름하고 있는 가운데 지난 달 안전 문제로 인해 모델에 대한 훈련을 일시적으로 중단하는 이례적인 조치를 취하기도 했습니다.
그러나 간과하기 훨씬 쉬운 또 다른 AI 안전 문제가 있습니다. 이러한 시스템에 이미 구축된 보호 기능이 반드시 모든 사람에게 똑같이 잘 작동하는 것은 아닙니다. Rest of World의 새로운 보고서는 AI 안전 노력이 어떻게 부유한 영어권 국가의 요구에 집중되어 있는지 강조합니다. 이로 인해 아시아, 아프리카 및 기타 개발도상국 일부 지역의 사람들은 챗봇이 언어를 오해하는 것처럼 기본적이고 잠재적으로 위험한 문제를 다룰 수 있습니다.
AI 안전은 실리콘밸리 밖에서는 매우 다르게 보일 수 있습니다.
가장 큰 AI 회사 중 다수는 광범위한 신뢰 및 안전 팀을 보유하고 있지만 모델을 평가하는 데 사용되는 표준은 주로 고소득 국가에서 형성됩니다. 연구자들은 동일한 모델이 언어, 인프라, 법률 및 문화적 기대가 다른 장소에 배포될 때 사각지대가 발생한다고 주장합니다. 건강 관리는 특히 걱정스러운 예를 제공합니다. 아프리카에서 사용되는 자연어 AI 시스템에 대한 연구에서 의학 용어와 관련된 번역 오류가 발견되었습니다. 예를 들어 티그리냐(Tigrinya)에서는 기계 번역이 천연두를 매독과 혼동했으며 심지어 “정맥 내 항생제”를 “정맥 내 살충제”로 번역하기도 했습니다.
문제는 번역 그 이상입니다. 연구에 따르면 AI 모델은 훈련 데이터가 상대적으로 적은 언어에서 더 자주 환각을 느낄 수 있는 것으로 나타났습니다. 영어로 유해한 요청을 안정적으로 포착하는 안전 가드레일은 해당 언어에서 성능이 저하되거나 우회하기 쉬울 수도 있습니다. 사람들이 건강 정보 및 기타 중요한 결정을 위해 점점 더 챗봇을 사용하게 되면서 이는 중요해졌습니다. 이는 효과적으로 새로운 AI 격차를 만들어냅니다. 두 사람이 동일한 제품을 사용하더라도 서로 다른 언어를 사용한다는 이유만으로 매우 다른 수준의 보호를 받을 수 있습니다.
AI 채택은 안전이 따라잡을 때까지 기다리지 않습니다.
많은 시장에서 AI에 대한 열정이 급속도로 커지고 있기 때문에 타이밍이 특히 중요합니다. 중국은 아마도 가장 명확한 예를 제시할 것이다. 우리는 이미 AI 채택이 기술 회사를 넘어 학교부터 지방 정부까지 모든 분야에서 기술을 수용하는 것을 보았습니다. 심지어 한 기업이 고객에게 AI 토큰을 제공하고 대기열 관리를 위한 AI 기반 도구를 구축하기 시작한 베이징 만두 가게에도까지 이르렀습니다. 그 열정이 반드시 문제가 되는 것은 아닙니다. 그러나 연구자들은 안전 인프라도 마찬가지로 빠르게 확장되어야 한다고 경고합니다.
정부가 대응하기 시작했습니다. AI 안전은 블레츨리 선언(Bletchley Declaration)과 올해 인도 AI 정상회담을 포함한 국제 이니셔티브에 등장했으며, 중국은 개발도상국의 AI 위험을 관리하기 위한 메커니즘도 제안했습니다. 더 큰 과제는 ‘AI 안전’이 미래형 모델이 경계를 벗어나거나 사이버 공격을 시작하는 것을 막는 것만을 의미하지 않도록 하는 것입니다. 이미 이러한 도구를 사용하고 있는 수백만 명의 사람들에게 안전은 훨씬 더 간단할 수 있습니다. 즉, 챗봇이 그들의 언어를 이해하고 긴급한 상황을 인식하며 위험할 정도로 잘못된 정보를 자신있게 제공하지 않도록 하는 것입니다. AI가 일상생활로 확산되면서 이러한 문제는 더 이상 엣지 케이스가 아닙니다. 이는 AI를 안전하게 만드는 것이 실제로 의미하는 것의 일부입니다.
관련 정보는 아래 링크에서 확인하세요