AI 챗봇은 일부 사람들이 위험할 정도로 실제 의사를 건너뛰는 정도까지 조용히 의학적 조언을 위한 소스가 되었습니다. 그러나 AI의 건강 조언이 잘못되면 의사는 그 뒤에 숨은 교환을 결코 보지 못할 수도 있습니다.
Binghamton University, Stanford, Texas A&M 및 Indiana University의 연구원들은 Nature Health에 챗봇이 나쁜 건강 정보를 제공한 후 어떤 일이 일어나는지 조사한 논문을 발표했습니다. 그들의 가장 큰 관심사는 챗봇이 틀릴 수 있다는 것뿐만이 아닙니다. 이러한 실수는 종종 의사, 연구자 또는 규제 기관이 발견할 수 있는 흔적을 남기지 않는다는 것입니다.
해로운 AI 조언을 어떻게 눈에 띄지 않게 할 수 있나요?
연구자들은 자신의 주장을 뒷받침하기 위해 실제 사례를 지적합니다. 60세 남성이 ChatGPT에 자신의 식단에서 염화물을 줄이는 방법을 물었고 식염을 브롬화나트륨으로 바꾸라는 말을 들었습니다. 그는 그 조언을 따랐고 결국 환각과 편집증을 치료하면서 브롬 중독으로 병원에 입원하게 되었습니다.
챗봇 대화는 AI 플랫폼에 고정되어 있었기 때문에 담당 의사는 그가 실제로 들은 내용을 볼 수 없었습니다. 이로 인해 무엇이 잘못되었는지 종합하는 것이 거의 불가능해졌습니다. 수석 저자인 Kaicheng Yang은 이러한 상호 작용의 오류를 적극적으로 모니터링하는 사람이 없기 때문에 이러한 격차가 바로 문제라고 말합니다.
의학적 조언은 차트로 문서화될 수 있으며 유해한 약물 효과는 보고 시스템에 입력될 수 있습니다. 그러나 챗봇 대화는 사용자와 AI 회사만 접근할 수 있습니다. 이로 인해 임상의, 규제 기관 및 독립 조사관은 패턴을 식별하는 데 필요한 증거가 없게 됩니다.
묻지 않고도 건강에 관한 조언을 받을 수 있습니다
이 논문은 또한 덜 분명한 위험을 표시합니다. 스크롤하는 동안 AI 요약과 소셜 피드가 이를 표면화할 수 있으므로 나쁜 건강 정보에 노출되기 위해 챗봇에게 아무것도 요청할 필요가 없습니다.
연구원들은 어떤 솔루션을 제안합니까?
이 문제를 해결하기 위해 연구원들은 AI 회사가 사용자에게 자신의 채팅 기록에 대한 액세스 권한을 제공하고 유해한 조언을 표시하는 시스템을 구축하기를 원합니다. 그들은 또한 정책 입안자들에게 의료 지침을 제공하는 AI 챗봇 회사에 의사 과실 책임을 확대하는 것을 고려할 것을 촉구합니다.
관련 보도:
관련 정보는 아래 링크에서 확인하세요