널리 알려진 Meta의 Muse AI 에이전트는 사용자를 대신하여 레스토랑 예약, 약속 예약, 고객 서비스 통화 처리가 가능한 전화 통화 기능으로 테스트되고 있습니다. 그러나 404 Media의 보고서에 따르면 이러한 통화 중 일부는 실제로 AI만으로는 처리되지 않습니다. 대신 Meta는 훈련된 사람들이 통화를 인계받을 수 있는 인간 상담원 계층을 추가했습니다.
이번 발견은 Meta 경영진이 Muse의 아웃바운드 통화 베타를 미국 기업으로 확장한다고 공개적으로 발표한 지 불과 며칠 만에 나온 것입니다. 그러나 내부적으로 Meta는 통화가 완료될 수 있도록 인간 계층을 추가했다고 직원들에게 말한 것으로 알려졌습니다. 내부 설명에 따르면 Muse는 훈련된 인간 에이전트에게 요청을 전달할 수 있으며, 에이전트는 전화를 걸어 사용자의 요청을 처리할 것입니다.
Muse가 전화를 걸 수 있지만 대화는 인간이 할 수도 있습니다.
Muse는 이러한 상호 작용이 자동화된 느낌을 주도록 설계되었기 때문에 구별이 중요합니다. Meta의 내부 설명에 따르면 Muse는 비즈니스에 전화를 걸고, 대화를 처리하고, 요청을 완료하고, 기록과 요약을 사용자에게 반환할 수 있다고 나와 있습니다. 그러나 404 미디어는 통화가 인간 상담원에게 얼마나 자주 라우팅되는지, 아니면 AI가 전적으로 언제 처리하는지 현재로서는 불분명하다고 보고합니다.
이 설정은 이미 Meta 직원들 사이에서 특히 개인 정보 보호에 대한 의문을 제기했습니다. 예를 들어, 사용자는 Muse에게 민감한 약속을 정하도록 요청하고 해당 정보가 AI 시스템에 의해 전적으로 처리되고 있다고 합리적으로 가정할 수 있습니다. 대신 인간 계약자가 잠재적으로 요청을 받고 전화를 걸 수 있습니다.
404 Media가 본 내부 통신에 따르면 Meta는 해당 프로세스에 참여한 계약자가 사용자 데이터를 안전하게 유지하기 위한 광범위한 교육을 받았다고 말했습니다. 일부 직원은 교육만으로도 충분한 보호가 될 수 있는지 의문을 제기했습니다. 다른 사람들은 테스터들이 항상 사람이 전화를 걸었다는 사실을 미리 듣지 못했다고 말했습니다.
이는 단순히 Muse가 성공적으로 테이블을 예약할 수 있는지 여부보다 더 큰 문제를 만듭니다. 사용자가 AI 에이전트에게 자신을 대신해 행동하도록 요청할 때 무엇을 넘겨준다고 생각하는지 다룹니다.
Meta는 이 기능이 아직 테스트 중이라고 말합니다.
호출 시스템이 사람의 개입 없이 작동할 수 있다는 증거도 있습니다. 한 Meta AI 연구원은 Muse가 최근 고객 서비스 전화 트리를 탐색하고 대기한 후 담당자와 통화하고 문제를 해결했다고 말했습니다. 그러나 다른 사용자들은 통화가 실패했거나 회사가 전화를 끊었다고 보고했습니다.
Meta는 이 기능이 아직 개발 중이라고 말합니다. 회사 대변인은 404 Media에 내부 테스트는 공개 출시 전에 피드백을 수집하고 안전 및 개인 정보 보호를 개선하기 위한 것이라고 말했습니다. Meta는 또한 판매자와 협력하고 있으며 준비가 되고 적절한 공개가 포함된 경우에만 통화 기능을 출시할 것이라고 말했습니다.
사용자에게 이는 Muse의 통화 기능이 현재 완성된 자율 AI 서비스가 아닌 베타 기능으로 보아야 함을 의미합니다. 다음 단계는 Meta가 호출을 독립적으로 처리할 수 있을 만큼 충분히 신뢰할 수 있는 시스템을 만들 수 있는지 여부와 동시에 사람이 개입할 때와 해당 사람이 액세스할 수 있는 정보를 사용자에게 명확하게 알려줄 수 있는지 여부입니다.
관련 정보는 아래 링크에서 확인하세요