케냐는 보다 저렴한 의료 서비스에 대한 더 넓은 접근성을 약속했습니다. 그러나 새로운 조사에 따르면 알고리즘 기반 시스템이 가장 도움을 주어야 했던 사람들의 삶을 더 힘들게 만들고 있는 것으로 나타났습니다. The Guardian, Africa Uncensored 및 Lighthouse Reports의 보고에 따르면 케냐의 새로운 사회 보건 당국 시스템은 예측 기계 학습 알고리즘을 사용하여 사람들이 공공 건강 보험에 지불해야 하는 금액을 추정하고 있습니다.
이 시스템은 케냐의 대규모 비공식 인력에 대한 의료 접근성을 확대하겠다는 윌리엄 루토(William Ruto) 대통령의 약속의 일환으로 2024년 10월에 처음 출시되었습니다.
알고리즘이 케냐인들에게 어떻게 해를 끼치고 있습니까?
문제는 시스템이 사람들이 감당할 수 있는 금액을 어떻게 계산하는지입니다. 케냐의 SHA 시스템은 대리 수단 테스트를 사용합니다. 이는 지붕 자재, 화장실, 가축, 가족 규모 및 기타 생활 조건과 같은 가구 세부 사항을 기반으로 소득을 추정하는 방법입니다. 이번 조사를 통해 시스템이 가난한 가구의 소득을 과대평가하고 부유한 시민의 소득을 과소평가했다는 사실이 밝혀졌습니다.
한 SHA 자원봉사자는 나이로비의 가정을 방문하여 이미 식량을 마련하기 위해 어려움을 겪고 있는 사람들이 자신의 수입보다 훨씬 더 많은 보험료를 받는 것을 지켜봤다고 설명했습니다. 보고서에 따르면 일부는 소액 수입의 10~20%에 해당하는 비용을 청구받았다.
법안이 처리를 차단하는 경우
결과는 현실이고 상황은 끔찍해 보입니다. SHA 보험료를 지불할 수 없는 개인 보험이 없는 케냐인들은 의료 시설에서 거절당하거나 높은 병원비를 받을 위험이 있습니다. 보고서는 시스템이 그들이 지불할 수 있는 것보다 더 많은 빚을 졌다고 말했기 때문에 치료를 받지 못한 중환자들의 사례를 인용했습니다. 한 미혼모는 자신의 월 기여금이 3,500케냐 실링으로 정해졌다고 말했고, 다른 사람들은 이전 시스템에서 지불했던 금액보다 크게 올랐다고 말했습니다. 그래서 새로운 정책은 생명을 앗아가고 있습니다.
Ruto는 이 시스템이 AI 기반이라고 설명했지만 보고서에서는 ChatGPT 스타일 생성 AI를 사용하지 않는다고 지적합니다. 이는 도움을 받을 자격이 있는 사람을 잘못 식별한 것으로 오랫동안 비판을 받아온 수십 년 된 정책 도구를 기반으로 구축된 예측 기계 학습을 사용합니다. 많은 사람들은 이 시스템이 배포되기 전에도 결함이 있고 불평등하다고 말했습니다.
SHA에 등록된 사람은 2천만 명이 넘지만 정기적으로 보험료를 납부하는 사람은 약 500만 명에 불과합니다. 병원들은 또한 상환금이 지급되지 않아 큰 적자를 보고하고 있습니다. 이것이 알고리즘 복지 시스템의 위험성이다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요