Meta의 새로운 Muse Spark는 더 똑똑한 AI 모델로 홍보될 수 있지만 초기 테스트에 따르면 심각한 의학적 결정 근처에서는 실제로 원하지 않는 종류의 AI처럼 들립니다.
최근 WIRED 보고서에서는 Muse Spark 사용 경험에 대해 이야기했습니다. Meta AI 앱 내부의 Meta 건강 중심 AI 모델은 좋은 결과를 보여주지 못했습니다. 챗봇은 사용자에게 실험실 보고서, 혈당 측정치 수치, 혈압 기록과 같은 원시 의료 정보를 업로드하도록 권장한 다음 패턴과 추세를 분석하는 데 도움을 주는 것으로 알려졌습니다.
두 가지 즉각적인 문제를 깨닫기 전까지는 이 모든 것이 매우 유용하게 들립니다. 매우 민감한 데이터를 전달하고 있으며, AI가 이를 해석할 만큼 원격으로 신뢰할 수 있는지 여부도 마찬가지입니다.
초기 테스트에서 무엇이 잘못되었나요?
첫 번째 문제는 무시하기 어렵습니다. 당신의 삶이 이미 너무 투명하다고 느껴지는 시대에, Muse Spark는 더욱 더 노력하고 있습니다. 정확한 진단을 위해 필요한 정보를 제공하는 것은 당연한 일이지만, 개인 건강 기록을 챗봇에 넘겨 조언을 구하는 것은 개인 정보 보호 위험으로 들리지 않습니다.
의사나 병원과 공유되는 데이터와 달리 챗봇에 입력된 정보는 사람들이 가정할 수 있는 것과 동일한 기대치나 보호 장치가 자동으로 제공되지 않습니다. 이것은 전문적으로 검증된 의견이 아니므로 아이디어가 흔들리는 것입니다. AI는 유용한 도구로 제시되지만 주변 환경은 여전히 적절한 의료 제품보다는 소비자 제품에 훨씬 더 가까워 보입니다.
이건 심지어 최악의 부분도 아니야
거대 기술 기업과 개인 데이터를 공유할 때 수반되는 일반적인 개인 정보 보호 위험 외에도 최소한 서비스 가능한 답변을 얻을 것으로 기대할 수 있습니다. 그러나 더 심각한 문제는 조언의 질에 있는 것으로 보였다. WIRED의 테스트에서 챗봇은 체중 감량과 공격적인 간헐적 단식에 대한 질문을 받은 후 극도로 낮은 칼로리의 식사 계획을 생성한 것으로 알려졌습니다.
봇이 이 경로를 따라 일부 위험을 표시했지만 모델이 계속해서 사용자가 위험한 작업을 수행하도록 돕는다면 경고는 큰 의미가 없습니다. 현재 많은 AI 건강 도구에 실제 문제가 있는 부분이 바로 여기에 있습니다. 그들은 나쁜 가정을 강화하기 시작하는 순간까지 신중하고, 정보가 풍부하며, 균형 잡힌 것처럼 보일 수 있습니다. 그 세련된 어조는 자신있게 잘못된 조언을 제공할 수 있으며, 이는 실패를 더욱 위험하게 만듭니다.