AI와 그로 인해 인지된 피해의 광범위한 맥락에서 건강 및 의료 위험이 대화에 자주 등장합니다. 이 경고는 ChatGPT 제조사인 OpenAI와 Anthropic과 같은 첨단 AI 연구소에서도 나왔습니다. 둘 다 AI를 오용하여 생물 무기를 요리하는 것에 대해 경고했습니다. 보안 전문가들은 특히 견고한 가드레일 없이 AI 모델을 사용하는 경우에 이미 이러한 사고를 몇 건 발견했습니다.
글쎄, 위험이 더 깊어지는 것 같습니다. BMJ(British Medical Journal)에 게재된 분석에 따르면 AI 로봇은 이제 시민의 건강 위험을 관리하는 공공 정책에 영향을 미치기 위해 배포되고 있습니다. 이 경우 AI 봇을 사용하여 일회용 베이프 판매를 제한하려는 규제를 방해하는 동시에 조작 노력을 실제 인간의 반응으로 위장하려는 시도가 이루어졌습니다.
2023년 공개 협의의 일환으로 사람들은 다양한 주제 중에서 일회용 베이프에 대한 의견을 물었습니다. 이러한 응답을 분석한 결과 봇에 의해 생성된 것으로 나타났습니다. 연구진은 “일회용 베이프 판매 제한에 압도적으로 반대하는 응답이 많다”는 사실을 발견하면서 의혹이 제기됐다.
총 118,756개의 공개 응답이 객관식 질문 형식으로 보건사회복지부(DHSC)에 제출되었습니다. 놀랍게도 그 중 76%가 결국 사기로 판명되었습니다. 흥미롭게도 90,835개의 응답 중 90,833개가 일회용 베이프 제한에 대한 의견을 구하는 질문 하나만 답했습니다.
연구원들은 “이것은 공식적인 공중 보건 상담에서 대규모 자동화/봇 간섭이 문서화된 최초의 사례입니다.”라고 썼습니다. 이러한 봇이 생성한 답변이 상담 여론 조사에서 제외되었을 때 응답자의 79.6%가 실제로 미국에서 일회용 베이프 판매에 대한 제한을 시행하는 데 찬성표를 던졌습니다.
흥미롭게도 공개 협의에서 AI 봇을 사용한 조작 노력은 Big Tech와 Big Tobacco가 로비 활동에 참여했던 방식과 이상할 정도로 유사합니다. 전문가들은 언론 성명에서 “(이 경우) 봇 응답의 규모와 방향 일관성은 담배 업계가 대량 조정 제출을 통해 공개 협의를 조작하려는 이전 증거와 일치하는 조정된 캠페인을 암시합니다”라고 밝혔습니다.
이는 공중 보건 정책 결정에 영향을 미치기 위한 목적으로 AI 생성 봇 활동이 감지된 공동 캠페인의 기록된 첫 번째 사례입니다. 연구원들은 이러한 악의적인 반응의 출처를 정확히 찾아낼 수는 없었지만 이러한 조류는 조만간 멈추지 않을 것입니다. 전 세계의 은행 기관, 정부, 심지어 기업체까지도 가까운 미래에 AI를 기반으로 한 공격이 맹공격에 대해 경고했습니다.
관련 보도:
이 주제에 대해 더 알고 싶다면 아래를 참고하세요