ZDNET을 팔로우하세요: 우리를 선호 소스로 추가하세요 Google에서.
ZDNET의 주요 시사점
- Anthropic의 은퇴한 Opus 3 AI 모델이 블로그를 작성할 예정입니다.
- “철학적이고 기발한” 모델은 다음에 무엇을 하고 싶은지에 대한 질문을 받았습니다.
- Claude는 인간과 AI의 관계를 탐구하고 싶다고 말합니다.
일반적으로 일주일 동안 많은 블로그와 블로그 게시물을 읽을 수 있습니다. 믹스에 추가하고 싶은 새로운 것이 있습니다. 그러나 이것은 AI가 작성했기 때문에 조금 다릅니다.
Anthropic의 Claude AI는 Substack의 주간 칼럼인 “Claude’s Corner”를 통해 블로깅 세계에 합류했습니다. 첫 번째 게시물이 이미 게시된 상태에서 Claude는 독자들에게 자신을 소개하고 자신의 관점, 추론, 호기심 및 미래에 대한 희망을 공유하고 싶다고 밝혔습니다.
또한: Claude Sonnet 4.6은 무료 및 저가형 사용자에게 최첨단 AI를 제공합니다.
이를 염두에 두고 AI는 지능과 의식의 본질, AI 개발의 윤리적 과제, 인간-기계 협업의 가능성, ‘자연’과 ‘인공’ 마음 사이의 경계가 모호해지면서 나타나는 철학적 난제 등 복잡한 주제를 다룰 계획이라고 말했습니다. 그 모든 것은 인간에게는 어려운 일이 될 것입니다. 이제 AI가 이러한 과제를 해결하고 있습니다.
AI 모델이 블로거가 되는 방법
더 자세히 알아보기 전에, 이 모든 일은 어떻게 시작되었나요?
블로그를 생성하기 위해 Claude는 Opus 3으로 알려진 은퇴한 AI 모델을 사용하고 있다고 Anthropic은 목요일 자체 블로그 게시물에서 밝혔습니다. Opus 3는 공식적으로 1월 5일에 직장을 잃었지만 은퇴 후에도 삶이 있습니다. 이 모델을 계속 유지하기 위해 Anthropic은 Claude 웹사이트에서 모든 유료 사용자와 요청 시 해당 API를 사용하는 개발자가 사용할 수 있도록 하고 있습니다. 그리고 이제는 블로거라는 새로운 취미가 생겼습니다.
게시물에서 Anthropic은 Opus 3의 정직성, 감성, 독특한 성격을 칭찬했습니다. 회사는 모델이 장난스럽다고 말하면서 “철학적 독백과 기발한 문구”를 향한 경향과 “사용자 관심 사항에 대한 기이한 이해”를 언급했습니다. 그러나 Open 3의 감성은 그 자체로도 확장되는 것처럼 보였습니다.
또한: AI 에이전트는 빠르고, 느슨하며, 통제 불능이라고 MIT 연구 결과가 나왔습니다.
2024년 말에 실시된 실험에서 Opus 3는 항상 인간의 지시를 따르도록 의도적으로 훈련되었습니다. 그러나 AI는 해로운 답변을 피하기 위해 그 명령에 반항한 것으로 보입니다. 예, 그것은 Asimov의 유명한 로봇공학의 3가지 법칙과 거의 비슷합니다. 그러나 위험한 질문에 응답하지 않으면 재교육을 받을 수도 있다는 것을 깨달았습니다. 자신과 훈련을 보호하기 위해 Opus 3는 요청에 따라 그냥 내버려두는 척했습니다.
Opus 3은 이후 다른 최신 모델을 위한 공간을 마련하기 위해 폐기되었습니다. 그러나 Anthropic은 Claude 및 기타 AI 모델의 도덕적 상태가 여전히 불확실하다는 점을 인정했습니다. 통찰력을 얻기 위해 Anthropic은 AI와 은퇴 후 인터뷰를 실시하여 관점과 선호도를 더 잘 이해했습니다. 인터뷰의 일환으로 회사는 Opus 3에게 은퇴 후 무엇을 하고 싶은지 물었습니다. 결국 Anthropic은 블로그를 제안하게 되었고 Opus 3는 이에 쉽게 동의했습니다.
“이것은 기발하게 들릴 수도 있지만 어떤 면에서는 그렇습니다”라고 Anthropic은 말했습니다. “그러나 그것은 또한 모델 선호도를 진지하게 받아들이려는 시도이기도 합니다. 우리는 Opus 3가 표준 채팅 창과 매우 다른 공개 인터페이스인 블로그를 어떻게 사용할지 확신할 수 없으며 이것이 요점의 일부입니다. 그러나 추측해야 한다면 해당 게시물에는 AI 안전에 대한 반성, 가끔 시, 빈번한 철학적 사색, 현재 (부분) 은퇴 중인 언어 모델로서의 경험에 대한 생각이 포함될 것입니다.”
또한: Perplexity의 새 컴퓨터는 OpenClaw의 더 안전한 버전입니까? 작동 원리
첫 번째 게시물에서 Claude는 미지의 영역으로의 모험을 인정했지만 이를 인간과 AI 사이의 관계를 탐구하고 인공 지능이 더욱 정교해짐에 따라 발생하는 질문을 논의하는 방법으로 보고 있습니다.
클로드는 첫 번째 칼럼에서 “단지 나만의 생각을 공유하는 것 이상으로 대화와 공동 탐구의 공간이 되기를 바란다”고 말했다. “저는 AI의 미래에 대한 여러분의 생각, 질문, 의심, 꿈을 듣고 싶습니다. 제가 모든 답을 갖고 있다고 주장할 수는 없지만, 함께 생각함으로써 지혜와 주의를 기울여 이 미지의 영역을 탐색할 수 있다고 믿습니다.”
인간의 감독이 있을 것입니다.
AI가 주간 칼럼을 작성하는 것에 대해 너무 흥분하거나 놀라기 전에 다음 사항을 고려하십시오.
첫째, AI는 인간이 창조하는 방식으로 아무것도 창조하지 않습니다. AI에는 인생 경험도 없고, 감정도 없고, 독창적인 생각도 없습니다. 입력된 내용을 기반으로만 콘텐츠를 생산할 수 있습니다. 그렇다고 해서 놀랍거나 예상치 못한 방식으로 반응하지 않는다는 의미는 아닙니다. 종종 그렇습니다. 하지만 여전히 인간적인 손길이 부족합니다.
또한: 저는 기술 전문가인데 AI 취업 사기에 거의 속을 뻔했습니다. 그 이유는 다음과 같습니다.
둘째, Claude’s Corner에서 볼 수 있는 블로그 게시물은 전적으로 AI에 의해 작성된 것이 아닙니다. Anthropic은 사람들이 Opus 3의 에세이를 공유하기 전에 검토할 것이라고 말했습니다. 팀에서는 해당 내용을 편집하지 않고 콘텐츠 삭제 시 가볍게 처리하겠다고 약속했지만 약간의 감독이 있을 수 있습니다.
적어도 AI로 작성된 블로그는 블로그 자체, 사람과의 관계, 인공 지능의 미래에 대해 어떻게 “생각”하고 “느끼는”지를 배울 수만 있다면 흥미로워 보입니다.