영국 보건 옹호자들, AI 전사 도구가 환자를 위험에 빠뜨릴 수 있다고 경고

AI 서기관은 지루한 서류 작업을 줄이고 환자 진료에 필요한 시간을 확보하겠다고 약속하며 빠르게 진료실로 진출하고 있습니다. 그러나 이러한 도구가 환자와 임상의 모두에게 새로운 위험을 초래한다는 증거가 늘어나고 있습니다.

AI 서기관이 진단과 처방을 엉망으로 만들고 있다

The Guardian의 새로운 보고서는 자동화된 전사 도구가 영국에서 일상적으로 의료 기록을 망쳐놓는 방법을 강조합니다. 영국 공중 보건 시스템의 환자를 위한 독립적인 소비자 옹호 단체인 Healthwatch England의 연구 결과에 따르면 환자들은 교정하지 않을 경우 건강을 위태롭게 하는 심각한 전사 오류를 발견하고 있는 것으로 나타났습니다.

한 가지 놀라운 사례에서는 AI 도구가 MRI 요약을 검토하고 환자가 다발성 경화증과 관련된 심각한 신경 질환인 탈수초를 앓고 있음을 문서화했습니다. 스캔 결과 실제로 “무수초 탈수초화”가 나타났습니다. 이는 문제가 존재하지 않음을 의미합니다. 보고된 다른 사례에서는 AI 도구가 유사한 약물 이름을 혼동하거나 반복 처방에 대한 중요한 지침을 생략했습니다. 환자 옹호자들은 이러한 오류가 의료 기록을 영구적으로 왜곡할 위험이 있다고 경고합니다. 특히 과로한 임상의가 모든 행을 주의 깊게 검토하지 않고 생성된 기록에 서명할 경우 더욱 그렇습니다.

안전 가드레일이 없는 글로벌 패턴

이 문제는 영국에서 보고된 사건보다 훨씬 더 광범위합니다. 지난 달 호주 보건 당국은 임상적 안전 위험과 함께 심각한 개인 정보 보호 격차를 언급하면서 검증되지 않은 AI 전사 소프트웨어에 과도하게 의존하지 말라고 의사들에게 조언하는 유사한 경고를 발표했습니다. 두 지역 모두에서 의사들은 때때로 전체 대화를 환각으로 만드는 수십 개의 규제되지 않은 AI 도구를 저글링하고 있으며 심지어 Prozac과 같은 언급되지 않은 정신과 약물을 환자 차트에 추가하기도 합니다.

미국의 문제는 규제 당국이 AI 서기관을 의료 기기로 분류하지 않기로 결정함에 따라 더욱 복잡해졌습니다. 이로 인해 의료 시스템에서는 도구가 실제로 사용되기 전에 도구가 실제로 정확한지 확인하기 위한 중앙 감독이 필요하지 않습니다. 이러한 버그가 많은 AI 보조원은 시간을 절약하는 대신 임상의가 모든 기록을 다시 확인하도록 강요하여 애초에 이를 채택하려는 목적을 효과적으로 무효화합니다.