Anthropic CEO Dario Amodei는 AI 산업이 둔화되기를 원하지만 그의 회사는 다시 가속기를 밟을 준비를 하고 있을 수도 있습니다. Reuters에 따르면 Anthropic은 Amodei가 업계에 AI 개발 속도를 의도적으로 조절할 것을 요구한 지 불과 며칠 만에 OpenAI의 증가하는 모멘텀에 대응하기 위해 새로운 AI 모델 출시를 고려하고 있습니다.
Anthropic은 다소 큰 경쟁자 형태의 문제를 가지고 있습니다.
이 모든 것이 다소 어색한 상황을 만듭니다. Amodei는 최근 AI 기능이 너무 빠르게 발전하고 있어 안전 조치를 따라잡는 데 더 많은 시간이 필요하다고 주장했습니다. 9월 12일 에세이에서 그는 이렇게 썼습니다. “AI 모델의 기능을 향상하는 속도를 늦춰야 합니다.” 그는 독립적인 제3자 평가자에 대한 영구 액세스, 조율된 안전 표준 및 국제 협력을 포함한 조치를 제안했습니다.
Anthropic이 여전히 다른 모델을 고려하고 있는 이유는 매우 간단합니다. OpenAI의 GPT-6 Astra가 기업의 관심을 끌고 있으며 기업 AI 시장에서 Anthropic의 위치에 압력을 가하고 있습니다. Reuters는 이 문제에 정통한 세 명의 소식통에 따르면 Anthropic이 새 릴리스를 검토하고 있다고 전했습니다. 그러나 회사가 새 릴리스를 준비 중이라는 사실을 공개적으로 확인하지는 않았습니다.
잠재적인 IPO를 준비하는 Anthropic에서는 이러한 경쟁 압력이 더욱 중요합니다. OpenAI가 기업의 추진력을 얻음에 따라 투자자들은 회사의 입장을 재평가하고 있으며 안전을 위해 개발 속도를 늦추거나 반드시 브레이크를 밟지 않는 경쟁사와 보조를 맞추는 등 불편한 선택을 하고 있는 것으로 알려졌습니다.
AI 경주는 숨을 쉬기 위해 만들어진 것이 아닙니다.
Amodei의 우려는 다른 주요 AI 인물들로부터 지지를 받았습니다. OpenAI CEO Sam Altman과 SpaceX CEO Elon Musk는 보다 신중한 속도에 대한 요구를 지지했으며, Google DeepMind의 Demis Hassabis도 AI 안전에 대한 더 큰 조정의 필요성을 인정했습니다.
그러나 경쟁 현실은 여전히 완고합니다. 한 회사가 속도를 늦추는 동안 다른 회사는 점점 더 능력이 뛰어난 모델을 계속해서 출시한다면 계속 추진하려는 인센티브를 무시하기 어려워집니다. 따라서 Anthropic이 보고한 딜레마는 전체 업계가 직면한 더 큰 문제를 포착합니다. AI 경주에 속도 제한이 필요하다는 점에는 모두가 동의할 수 있지만, 가속기에서 가장 먼저 발을 떼는 데 특별히 열중하는 사람은 아무도 없는 것 같습니다.
관련 보도:
이 주제에 대해 더 알고 싶다면 아래를 참고하세요