Meta는 한동안 청소년 안전과 AI를 놓고 뜨거운 물에 빠져 있었습니다. 월스트리트저널(Wall Street Journal) 조사, 뉴멕시코주에서의 패소 소송, 이후 FTC 조사를 통해 회사는 마침내 의미 있는 부모 감독 도구를 마련하게 되었습니다.
오늘 Meta는 Instagram, Facebook, Messenger 등 가장 인기 있는 세 가지 플랫폼의 감독 허브에 새로운 Insights 탭을 도입했습니다. 이름이 바로 명확하지는 않지만 이 기능은 십대 자녀가 모든 앱에서 Meta AI와 실제로 논의하고 있는 내용을 부모에게 보여줍니다.
부모는 실제로 무엇을 볼 수 있습니까?
부모는 자녀가 Meta AI와 대화한 내용을 단어 단위로 받아 볼 수는 없지만 새로운 Insights 탭에서는 주간 주제 요약을 제공합니다. 학교, 엔터테인먼트, 라이프스타일, 여행, 글쓰기, 건강과 같은 광범위한 카테고리를 다루며 각 카테고리에는 자체 하위 카테고리가 있습니다.
예를 들어 건강 및 웰빙은 피트니스, 신체 건강, 정신 건강과 같은 주제를 다룹니다. 여기서 희망하는 바는 부모가 실제로 모든 메시지를 읽지 않고도 주제 사이에서 우려되는 패턴을 식별할 수 있도록 카테고리가 충분한 맥락을 제공한다는 것입니다.
주제 가시성 외에도 부모는 자녀가 액세스할 수 있는 AI 캐릭터를 결정할 수 있으며, AI 도우미를 숙제, 일상적인 질문 해결 등과 같은 일반적인 사용 사례에 사용할 수 있도록 유지하면서 캐릭터 채팅을 완전히 종료할 수도 있습니다.
Meta는 또한 민감한 주제에 대한 전용 알림을 개발하고 있는데, 이는 관련된 채팅에 대해 부모에게 알리는 가장 효과적인 방법이라고 생각합니다. 십대의 AI 대화가 자해에 관한 것이거나 더 심각한 경우 자살로 이어지는 경우 부모에게 직접 알립니다.
누구에게 제공되나요?
현재 통계 탭은 미국, 영국, 호주, 브라질, 캐나다에서 사용할 수 있습니다. 반면 글로벌 출시는 몇 주 안에 이뤄질 것으로 예상된다. 새로운 추가 기능 외에도 Meta는 Cyberbullying Research Center와 협력하여 대화 시작 도구를 개발했습니다.
여기에는 부모가 십대 자녀와 AI에 대해 비판단적인 토론을 시작하는 데 도움이 될 수 있는 프롬프트가 포함됩니다. 회사의 움직임은 고귀한 본능이 아닌 상당한 법적, 규제적 압력을 받고 있다는 점을 강조하는 것이 중요하며, 중요한 것은 그 차이입니다.
민감한 주제 알림 시스템이 제대로 작동한다면 AI나 소셜 미디어 플랫폼이 젊고 취약한 사용자를 처리하는 방법에 대한 산업 표준을 설정할 수 있습니다.