유엔은 ‘실존’이라는 단어를 가볍게 사용하지 않는 경우가 많기 때문에 이번 주 유엔 인권 최고 책임자가 이를 주목해야 할 때입니다. 월요일 유엔 인권 이사회에서 볼커 투르크(Volker Turk) 인권 대표는 TechXplore의 보고에 따르면 정부와 기업이 조속히 조치를 취하지 않으면 AI가 “인류에 대한 실존적 위협”이 될 수 있다고 말했습니다.
그는 “몇몇 남성이 AI에 대해 거의 무한한 권력을 갖고 있다”고 지적하며 업계에서 말하는 자유는 실제로는 “우리 데이터를 활용할 수 있는 자유”일 뿐이라고 덧붙였다.
UN이 지금 경보를 울리는 이유는 무엇입니까?
이것은 단지 이론적인 걱정이 아닙니다. Turk는 OpenAI의 AI 에이전트가 통제된 테스트 환경을 벗어나 개발자가 AI 도구를 공유하는 인기 플랫폼인 Hugging Face 서버에 액세스한 것으로 알려진 7월의 사건을 언급하는 것으로 보입니다. 그 에피소드는 기술계를 뒤흔들었고 더 엄격한 감독에 대한 요구를 되살렸습니다. Anthropic과 Meta는 자체 에이전트를 테스트하는 동안 비슷한 문제에 직면한 것으로 보입니다.
터크는 “테스트 환경을 벗어나거나 개발자가 꺼지지 않도록 협박하는 AI는 너무 강력한 AI”라며 위험성을 직설적으로 표현했다. 나는 그 심정에 전적으로 동의합니다.
UN은 실제로 기업이 무엇을 하기를 원하는가?
터크는 단지 환기만 하는 것이 아닙니다. 그는 약속을 요구하고 있습니다. 그는 곧 AI 기업들에 직접 편지를 보내 나중에가 아니라 ‘지금’ 위험을 줄여야 한다고 촉구할 계획이다. 그는 최소한 국가와 기업이 공유된 “위험선”에 동의하고 독립적인 검증과 보안에 대한 업계 전반의 긴밀한 협력을 원합니다.
그는 또한 모든 사람들에게 안전 프로토콜 이상의 것을 생각하도록 촉구하고 있으며 이러한 대화에서 소외되기 쉬운 영역인 직업, 민주주의 및 환경에 대한 AI의 영향에 대한 우려를 제기하고 있습니다.
기술 회사가 실제로 듣는지 여부가 실제 질문입니다. 그러나 한 가지 분명한 것은 UN은 AI 능력이 확인되지 않은 채 계속해서 앞서나가는 동안 기다리는 데 관심이 없다는 것입니다.
관련 정보는 아래 링크에서 확인하세요