AI 접수원은 의사에게 더 쉽게 전화할 수 있도록 해야 합니다. 그러나 점점 더 많은 환자들이 그 반대가 사실일 수 있다는 사실을 깨닫고 있습니다. 특히 기계가 말하고, 지시를 이해하고, 요구 사항을 전달하는 방식에 어려움을 겪을 때 더욱 그렇습니다.
최근 사우스 요크셔에서 발생한 사례는 이 문제에 초점을 맞췄습니다. 뇌졸중에서 회복 중인 71세 여성 주디스 버터필드(Judith Butterfield)는 GP 수술에 사용된 AI 접수원이 약속을 예약하려고 할 때 반복적으로 그녀의 말을 이해하지 못했다고 BBC에 말했습니다. 그녀의 뇌졸중으로 인해 언어가 단편화되고 신체 오른쪽의 움직임에 영향을 받았습니다. 몇 번의 시도가 실패했지만 결국 그녀는 다른 진료소에 등록했습니다.
이후 수술로 인해 시스템이 중단되었습니다. 그러나 이 사건은 훨씬 더 큰 질문을 제기합니다. 환자가 이해하는 방식으로 의사소통하기를 기대하는 AI에 얼마나 많은 의료 서비스가 안전하게 전달될 수 있습니까?
기계가 대기열을 처리할 수 있지만 환자가 대본에 맞지 않으면 어떻게 될까요?
EMMA로 알려져 있고 QuantumLoopAI가 개발한 AI 접수원은 GP 진료가 전화 수요를 처리하고 대기 시간을 줄이는 데 도움을 주기 위해 도입되었습니다. Healthwatch Rotherham은 이후 지역 억양과 언어 장애가 있는 사람들을 포함하여 시스템과 의사소통하는 데 어려움을 겪는 환자들의 불만을 보고했습니다.
Butterfield의 경험은 의료 분야에서 사소한 기술적 약점이 더 심각한 문제로 발전할 수 있는 이유를 보여줍니다. 자동화된 서비스는 그녀에게 스피커폰을 사용하지 말라고 요청했지만 그녀는 뇌졸중으로 인해 다른 손이 손상되었기 때문에 한 손으로 전화기를 잡고 있어야 한다고 말했습니다. 시스템이 그녀의 이름을 이해하지 못했을 때 뭔가 잘못되었음을 인식하고 단순히 그녀에게 다르게 반복하도록 요청하는 인간의 본능이 없었습니다.
문제는 하나의 접수 시스템보다 더 광범위합니다. Healthwatch England는 약속을 예약하고 약을 요청하고 필요 사항을 전달할 때 AI를 접하는 환자로부터 유사한 계정을 수집했습니다. 언어 장애나 학습 장애가 있는 일부 사람들은 자동화 시스템이 이를 이해할 수 없다고 말했고, 다른 사람들은 요청을 올바르게 처리하는 데 문제가 있다고 보고했습니다.
의료계는 쉬운 대화에만 작동하는 AI를 감당할 수 없습니다
AI는 과도한 GP 관행에 대한 분명한 매력을 가지고 있습니다. 전화에 즉시 응답할 수 있는 시스템은 대기열을 줄이고 다른 작업을 위한 리셉션 직원을 확보할 수 있습니다. QuantumLoopAI는 EMMA가 여러 언어와 악센트를 지원하며 발신자가 언제든지 사람에게 요청할 수 있다고 말합니다. 회사는 또한 특정 환자가 리셉션 직원에게 직접 갈 수 있도록 우선순위 라우팅을 구성할 수 있다고 말했습니다.
그러나 이러한 보호 장치는 환자가 이 시스템이 존재한다는 것을 알고 이를 사용할 수 있을 만큼 오랫동안 시스템을 성공적으로 탐색할 수 있는 경우에만 작동합니다. Healthwatch는 의사소통이 필요하고 장애가 있으며 디지털 신뢰도가 낮은 사람들이 제대로 설계되지 않은 의료 기술로 인해 배제되기 특히 취약할 수 있다고 경고했습니다. 문제는 AI가 가끔 단어를 잘못 이해한다는 것이 아닙니다. 상대방이 애초에 의료 서비스에 접근하려고 할 수도 있다는 것입니다.
GP 진료가 자동화된 수신 및 분류를 계속 실험함에 따라 사우스 요크셔의 교훈을 무시하기 어렵습니다. AI 접수 담당자는 환자와 치료 사이에 또 다른 장애물이 되어서는 안 되며 인간에게 더 쉽게 접근할 수 있도록 해야 합니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요