플로리다의 한 목사님이 ChatGPT에게 괜찮은지 물었습니다. 그는 거의 죽을 뻔했습니다.

플로리다 출신의 목사인 스콧 윈터스(Scott Winters)는 ChatGPT가 자신의 소송에서 “매우 위험한” 의학적 조언, 즉 목숨을 잃을 뻔한 조언을 제공한 후 OpenAI를 고소했습니다.

목사님에게 무슨 일이 일어났나요?

몇 주 동안 Winters는 반복되는 현기증과 불안정한 혈압에 대한 질문을 ChatGPT에 문의했습니다. 의사를 가리키는 대신 봇은 그의 증상이 걱정할 만큼 심각하지 않다고 안심시키고 “신중한 안락의자 기반 미세 회복”이 제대로 작동하고 있다고 말했습니다.

윈터스는 그 조언을 따랐습니다. 그러나 그 평온한 확신에는 실제 응급상황, 즉 양쪽 폐의 혈전으로 인한 폐색전증이 숨어 있었습니다. 의사들은 나중에 그에게 ChatGPT가 권장하는 정확한 부동성 때문에 그를 죽음의 문턱까지 몰고 갔다고 말했습니다.

Cybernews가 처음 보도한 바와 같이, OpenAI가 2025년에 교차 채팅 메모리를 출시한 이후 상황은 더욱 이상해졌습니다. ChatGPT는 응답에 종교적인 언어를 엮기 시작한 것으로 알려졌습니다. 이는 분명히 Winters가 목사라는 것을 알았기 때문에 한때 그의 회복을 “예배의 한 형태”라고 불렀기 때문입니다.

6주간의 증상은 심각하지 않은 것으로 무시되어 의학적 위기에 대한 느린 카운트다운으로 바뀌었습니다.

OpenAI가 고소당하는 이유는 무엇입니까?

Winters는 캘리포니아 법원에 OpenAI와 CEO인 Sam Altman을 과실과 무단 의료행위 혐의로 기소하면서 소송을 제기했습니다. 그는 그 낙진으로 인해 직장과 사역, 집이 손실되었을 뿐만 아니라 목숨까지 잃을 뻔했다고 말했습니다.

이 사건은 일반용 챗봇이 잘못된 의학적 조언에 대해 법적 책임을 져야 한다고 주장한 첫 번째 사례인 것으로 알려졌다. Winters는 금전적 손해 배상을 요구하며 안전하다고 입증될 때까지 ChatGPT Health를 일시 중지해 달라고 법원에 요청했습니다.

OpenAI는 New York Times에 챗봇만을 비난하는 것은 사람들의 건강 결정을 지나치게 단순화시킨다고 말했습니다. 법원이 무엇을 결정하든, 이 사건은 챗봇의 자신감 있는 말투가 의학 학위와는 다르다는 점을 확실히 상기시켜 줍니다.

저는 항상 사람들에게 ChatGPT나 Google의 의학적 조언을 절대 받아들이지 말라고 말합니다. 여기서 나를 짜증나게 하는 것은 ChatGPT가 목사에게 준 의학적 조언이 아니라 의사와 상담하라고 말하지 않았다는 사실입니다. 이는 모든 AI 챗봇에 내장된 안전망이어야 합니다.