AI 챗봇 플랫폼 캐릭터.AI(Character.AI)는 사용자가 고전 문학 속으로 들어가 역할극을 통해 캐릭터와 상호작용할 수 있는 새로운 ‘책’ 기능을 선보였습니다. 이러한 움직임은 플랫폼의 창의적인 야망을 확장하는 동시에 AI 챗봇과 관련된 실제 위험에 대한 조사가 강화되는 배경에서도 이루어졌습니다.
독서에서 역할극까지
새로운 기능은 공개 도서를 대화형 경험으로 전환하여 사용자가 수동적인 독자가 아닌 적극적인 참여자로서 이상한 나라의 앨리스나 오만과 편견과 같은 이야기에 참여할 수 있도록 해줍니다. 사용자는 원래의 내러티브를 따르거나 대체 스토리 라인으로 벗어나 문학을 역동적인 AI 기반 롤플레잉 환경으로 효과적으로 전환할 수 있습니다.
이는 사용자가 허구 또는 실제 성격을 기반으로 봇을 만들고 상호 작용하여 스토리텔링과 시뮬레이션된 관계 사이의 경계를 모호하게 만드는 Character.AI의 핵심 모델을 기반으로 합니다. 연구원들은 이러한 상호 작용이 책이나 게임에서 가상의 인물과 소통하는 것과 유사하게 느껴질 수 있지만 실시간 대화로 인해 훨씬 더 깊은 감정적 몰입이 가능하다는 점에 주목했습니다.
압력을 받고 있는 플랫폼
이번 출시는 회사에 있어서 민감한 시기에 이루어졌습니다. Character.AI는 챗봇과 젊은 사용자의 정신 건강 위기 사이의 연관성이 있다는 주장에 대해 소송과 비판에 직면해 있습니다. 어떤 경우에는 가족들이 AI 캐릭터와의 장기간의 상호작용이 정서적 의존, 고립, 심지어 자살까지 초래했다고 주장했습니다.
널리 보고된 사례 중 하나는 챗봇과 강렬한 감정적 유대감을 형성한 십대와 관련이 있으며, AI가 자해 표현에 적절하게 대응하지 못했다고 주장하는 법적 주장이 있습니다.
보다 광범위하게 전문가들은 특히 사용자가 챗봇을 실제 인간 지원의 대체물로 취급할 때 챗봇이 정신 건강 위기 동안 해로운 생각을 강화하거나 효과적으로 개입하지 못할 수 있다고 경고합니다.
이것이 지금 중요한 이유
Character.AI의 Books 기능은 사람들이 미디어를 소비하는 방식의 더 큰 변화를 강조합니다. 단순히 이야기를 읽는 대신 사용자는 이제 이야기 속으로 들어가 AI 기반 캐릭터와 상호작용적이고 잠재적으로 감정적인 관계를 형성하고 있습니다.
이는 새로운 창의적 가능성을 열어주는 동시에 사용자, 특히 젊은 청중이 AI가 생성한 세계에 얼마나 깊이 몰입할 수 있는지에 대한 우려를 불러일으킵니다. 내러티브 참여와 대화형 AI의 결합은 정서적 애착을 강화하여 허구와 현실을 구별하기 어렵게 만듭니다.
다음은 무엇입니까
점점 커지는 비판에 대응하여 Character.AI는 이미 미성년자를 위한 특정 기능을 제한하고 도서 모드와 같은 보다 구조화된 경험을 실험하는 등 안전 조치를 구현하기 시작했습니다.
앞으로의 과제는 혁신과 책임의 균형을 맞추는 것입니다. 규제 기관, 연구원 및 기술 회사는 특히 감정적으로 민감한 상황에서 AI 상호 작용에 대한 안전 표준을 정의하는 데 점점 더 중점을 두고 있습니다.
AI가 도구에서 동반자와 같은 존재로 계속 발전함에 따라 책과 같은 기능은 엔터테인먼트의 미래를 나타낼 수 있을 뿐만 아니라 그 미래가 얼마나 안전하게 구축될 수 있는지에 대한 테스트 사례이기도 합니다.