인공지능의 등장은 이미 사회에 변화를 가져왔고 전문가들은 이는 단지 시작일 뿐이라고 말합니다. 그러나 기술 혁명이 미국인들이 오랫동안 소중히 여기고 강력하게 지켜온 개인 정보 보호를 위협함에 따라 진보와 함께 불가피한 단점이 발생합니다.
최근 여러 가지 중요한 사건은 디지털 발전과 개인 정보 보호가 충돌하는 불안정한 교차점을 강조합니다.
Amazon이 소유한 초인종 카메라 회사인 Ring은 잃어버린 개를 추적하고 찾는 회사의 기술을 축하하기 위한 재앙적인 슈퍼볼 광고 이후 엄청난 반발에 직면했습니다. 대신, 이를 법 집행 기관과 기업 이익에 의해 악용될 수 있는 AI 기반 감시 네트워크의 전조로 보는 시청자와 개인 정보 보호 옹호자들의 분노를 불러일으켰습니다.
회사의 CEO는 집과 이웃을 모니터링하는 것이 전체 비즈니스 모델임에도 불구하고 Ring의 방대한 카메라 네트워크와 그 기능에 대해 사과했습니다.
결과적으로 Ring은 번호판 스캔 기술을 법 집행 기관에 판매하는 보안 소프트웨어 회사인 Flock Safety와의 파트너십을 취소했습니다.
한편, ChatGPT를 운영하는 회사인 OpenAI는 직원들이 불안한 메시지를 이유로 캐나다 학교 총격범으로 기소된 Jesse Van Rootselaar의 계정을 금지했지만 경찰에 알리지 않았다는 사실이 밝혀진 후 비난을 받았습니다.
초인종 캠은 단지 현관의 해적을 감시하는 것이 아닙니다. 그들은 이웃이 잔디를 깎거나 집 앞을 파워워킹하는 모습을 포착할 수도 있고 동네 감시견 역할을 할 수도 있습니다.
AI 챗봇은 귀하가 가지고 있는 모든 질문에 대한 답변을 즉시 제공하며, 모든 개인 데이터는 어딘가의 서버 팜에 저장됩니다.
판매 홍보는 마음의 평화를 주지만 실제 비용, 즉 개인 정보 보호는 귀하가 지불하려는 것보다 더 클 수 있습니다.
감시 솔루션 회사인 IC Realtime의 CEO인 Matt Sailor는 “그것이 사실 나에게는 두려운 일입니다.”라고 말합니다. “기업이 주제에 상관없이 집에서 기록되고 보관된 데이터를 가족과 함께 사용하도록 허용하고 ‘오, 우리는 Fido를 구하기 위해 하는 것입니다’라는 가식으로 이를 수행할 것입니다. 그냥 틀렸어.”
컬럼비아 대학교에서 인공지능 법칙을 강의하고 있는 변호사 미셸 파라디스(Michel Paradis)는 “우리는 사적인 것에 대한 기대를 재설정하기 시작해야 하는 단계에 확실히 와 있습니다.”라고 덧붙였습니다.
“그리고 우리도 매우 조심해야 합니다.”
서류상으로 미국인들은 이보다 더 많은 보호를 받은 적이 없습니다.
실제로 전문가들은 시스템이 농담이라고 말합니다.
TBD Group의 기술 고문이자 창립자인 Paul Armstrong은 “현재 우리가 가지고 있는 법률은 본질적으로 5G 세계에서 전화 접속 연결을 실행하는 것입니다.”라고 말합니다.
Meta는 최근 개인 정보 침해 혐의를 해결하기 위해 7억 2,500만 달러의 벌금을 지불했지만 이러한 대기업의 경우 이는 단순히 비즈니스 비용에 불과합니다.
Digi Mentors의 CEO인 Sree Sreenivasan은 “이러한 벌금은 대형 기술 기업에 대한 확인과 같습니다.”라고 말합니다. “그것은 그들이 이 모든 일에서 올바른 길을 가고 있다는 것을 보여줍니다.”
Armstrong은 “9 자리 벌금은 분기별 수익 결산에서 그 숫자가 반올림 오류처럼 보인다는 것을 깨닫기 전까지는 엄청나게 들립니다.”라고 덧붙입니다.
로스앤젤레스 Greenberg Glusker의 사이버 보안 및 개인 정보 보호 변호사인 Peter Jackson은 대부분의 소비자는 자신이 실제로 얼마나 노출되어 있는지 전혀 모른다고 말합니다.
“소비자들은 자신의 정보에 무슨 일이 일어나고 있는지에 대한 정보가 부족합니다.”라고 그는 말합니다. “(개인 정보 보호) 공개는 기술적으로 철저하고 실질적으로 쓸모가 없습니다. 대부분의 사람들은 그것이 무엇을 의미하는지 실제로 이해하지 못합니다.”
잭슨은 현재의 처벌이 그 순간에 맞지 않는다는 점에 동의합니다.
그는 월트 디즈니사가 캘리포니아 소비자 개인 정보 보호법을 위반했다는 주장을 해결하기 위해 275만 달러를 지불하기로 합의한 최근 사례를 지적합니다.
거대 엔터테인먼트 회사는 디즈니 스트리밍 서비스의 데이터 공유를 거부하라는 사용자의 요청을 완전히 따르지 않았다는 이유로 기소되었습니다.
벌금은 캘리포니아의 개인 정보 보호법에 따른 기록이지만 Jackson이 지적했듯이 “이 금액은 Disney에게는 아무 것도 아닙니다. 미국 개인 정보 보호법은 회사가 더 나은 조치를 취하도록 장려할 만큼 강력한 처벌을 충분히 갖추고 있지 않습니다.”
CUNY의 경영학 교수이자 제품 컨설턴트인 Arash Vakil은 “개인정보 침해는 버그가 아니라 대부분의 기술 회사 비즈니스 모델의 특징입니다.”라고 말합니다.
“구독 모델이 내장된 이들 회사는 주주 수익과 주주 가치를 극대화할 수 있는 더 나은 기회를 가질 수 있을 것입니다.”
Sailor는 “현실적으로 이들 기업은 데이터에 의존하고 있습니다.”라고 덧붙입니다.
“그들은 당신이 제공하는 정보에 의존합니다. 그들은 당신의 일상 습관에서 엄청난 양의 정보를 수집하고 있으며, 당신의 데이터는 실제로 당신의 데이터가 아닙니다. 회사가 그것을 소유합니다.”
초인종 캠과 AI 엔진의 인기로 볼 때 소비자들은 그 결과에 대해 괜찮은 것 같습니다. “사람들은 정말 게으르고 항상 쉬운 길을 선택합니다.”라고 Sailor는 말합니다.
‘투데이’의 공동 진행자 사바나 거스리(Savannah Guthrie)의 어머니인 낸시 거스리(Nancy Guthrie)가 애리조나주 투산의 집에서 납치된 것처럼 보이는 그날 밤의 네스트 캠 영상을 FBI가 FBI가 회수할 수 있었을 때 많은 사람들이 혼란스러워했습니다. 법 집행 기관은 가족이 유료 구독을 하지 않았기 때문에 데이터에 접근할 수 없다고 밝혔습니다.
며칠 후 FBI 국장인 카시 파텔(Kash Patel)은 집에서 찍은 영상이 “백엔드 시스템에 있는 잔여 데이터에서 복구됐다”고 말했다.
Nest의 모회사인 Google은 사용자가 구독 중인 경우 해당 데이터를 보관할 의무가 없으며 어느 시점에 덮어쓰여질 수 있지만 일반적으로 그런 일이 발생하는지는 확실하지 않습니다. 회사의 개인 정보 보호 정책에는 비디오가 3시간 후에 만료된다고 명시되어 있습니다.
NPR에 따르면 애리조나 주립대학교의 컴퓨터 과학 및 공학 조교수인 Jaron Mink는 미국의 개인 정보 보호 규정이 느슨하다고 지적합니다.
Mink는 “때때로 이는 데이터 삭제 기능이 시스템 요구 사항으로 구축되지 않았기 때문에 실제로 발생하는 것이 더 어렵다는 것을 의미합니다.”라고 Mink는 말했습니다.
Ars Technica에 따르면 Google은 Nest 사용자 비디오가 AI 모델을 훈련하는 데 사용된다는 사실을 부인했지만 “우리는 Google의 생성 모델, 기계 학습 기술, 관련 제품 및 서비스를 추가로 연구, 조정 및 훈련하기 위해 AI 기능과의 상호 작용에서 나오는 프롬프트, 피드백, 사용 및 출력을 포함한 사용자 입력을 사용할 수 있습니다.”라고 말했습니다.
뉴욕시의 최고 디지털 책임자(CDO)를 역임한 스리니바산(Sreenivasan)은 대부분의 미국인들이 편리함과 안전함을 위해 프라이버시를 거래하면서 평화를 이루었다고 말했습니다.
“물론 그런 일이 일어났습니다. 사람들은 기술과 이상한 관계를 맺고 있습니다.”라고 그는 말합니다.
“그들은 모든 편의와 프라이버시를 원하지만 프라이버시에 대해서는 아무 것도 하지 않고 편의를 위해 모든 것을 합니다.”
패턴은 AI 이전부터 쿠키(귀하의 로그인과 기본 설정을 기억하기 위해 웹사이트에 저장되는 작은 텍스트 파일)로 시작되었습니다.
Sreenivasan은 “쿠키가 처음 등장했을 때 미국인들은 ‘그래, 뭐든지’라고 말했어요”라고 말했습니다. “당신은 편리함을 원했기 때문에 모든 것을 받아들이고 신경 쓰지 않았습니다. 쿠키 허용을 중단하면 귀하의 계정, 즐겨찾기 및 기록을 기억하지 못할 것입니다. 온라인 쇼핑을 끔찍한 경험으로 만들 것입니다.”
그러다가 2005년에 Gmail이 출시되어 “아무 것도 삭제할 필요가 없는 무제한 메시지”를 약속했다고 Sreenivasan은 회상합니다. “저희는 그들이 귀하의 이메일을 스캔하고 광고를 게재하고 있다는 것을 즉시 알았습니다. 만약 제 아내가 저에게 ‘여보, 우유 좀 사올 수 있나요?’라고 썼다면, 그리스테데스에 대한 광고를 받게 될 겁니다.”
Vakil은 이제 AI, 카메라, 앱에서도 동일한 패턴을 확인합니다. “사용자나 소비자는 자신의 데이터를 무료로 교환하는 데 매우 만족하고 있습니다.”라고 그는 말합니다. “우리는 이 기술이 제공하는 편리함에 어느 정도 익숙해졌습니다… 하지만 기억해야 할 점은 제품이 무료라면 바로 당신이 제품이라는 것입니다.”
그러나 다른 사람들은 소비자가 불가능한 입장에 있다고 생각합니다. Armstrong은 “사람들에게는 이러한 조건을 수락하거나 제품을 사용하지 않을 진정한 선택권이 주어지지 않았습니다.”라고 말합니다. “탈퇴는 점점 더 현대 생활에서 탈퇴하는 것을 의미합니다.”
기술은 항상 개인정보 침해에 대한 새로운 기회를 창출합니다.
AI 챗봇이 Google과 다른 점은 단순히 링크를 뱉어내는 것이 아니라는 점입니다. 그것은 다시 이야기합니다. Paradis는 “AI 챗봇은 마치 친구처럼 느껴지게 만드는 일종의 성격을 갖고 있습니다.”라고 말합니다. “이러한 반응을 주도하는 성격이 있습니다.”
그는 “챗봇 경험의 친밀성”은 “개인 정보 보호에 대해 많은 질문을 제기합니다… 그리고 사람들이 AI 챗봇에 요청하는 내용이 법 집행 기관이나 심지어 사회적으로 어떻게 잠재적으로 그들에게 불리하게 사용될 수 있는지에 대해 제기합니다.”라고 말했습니다.
그렇지 않은 경우를 제외하고는 기밀 관계의 모든 기능을 갖추고 있습니다. Paradis는 “법적으로 챗봇에 입력하는 모든 정보가 은행에 제공하는 정보 유형이 아닌 것으로 간주되어야 할 이유가 전혀 없습니다.”라고 말하면서 은행이 법원 명령에 따라 고객 기록을 넘겨주도록 강요받을 수 있다는 점을 지적했습니다.
기술 회사의 도구가 실제 폭력에 대처할 때 기술 회사에는 어떤 책임이 있습니까? 2월 10일 브리티시 컬럼비아에서 발생한 총격 사건 이후 OpenAI는 안전 프로토콜을 전면적으로 점검하겠다고 약속했습니다. 그러나 보다 적극적인 조치를 취하면 사람들이 자신이 저지른 일에 대해 처벌을 받는 “마이너리티 리포트”의 세계와 같은 또 다른 악몽을 겪을 위험이 있습니다. ~할 것 같다 하다?
Armstrong은 “캐나다 총격 사건의 ChatGPT 상황은 아직 누구도 입법화하지 않은 승산 없는 시나리오를 드러냅니다.”라고 말했습니다.
“보고하지 않는 것은 공모를 의미하지만, 보고는 누군가의 생각을 알릴 수 있는 감시 장치를 구축하는 것을 의미합니다.”
Paradis는 이것이 법적 회색 영역이라는 데 동의합니다.
“구글 초창기 사람들은 검색 기록을 바탕으로 ISIS에 비정상적으로 관심이 있는 경우 Google이 경찰에 신고해야 하는지 물었습니다.”라고 그는 말합니다. “AI를 사용하면 소음기를 구입하는 방법만 검색하는 것이 아니라 사용 방법과 설치 방법을 설명하도록 요청하는 것입니다.”
워싱턴 국회의원들이 이 문제를 해결할 것이라고 기대하지 마십시오.
Paradis는 더욱 엄격한 AI 법안에 대해 “확실히 연방 차원에서는 그럴 가능성이 거의 없다고 생각합니다.”라고 말합니다.
그는 향후 몇 년 동안 대부분의 실제 조치가 주 차원에서 발생할 것으로 예상합니다. 트럼프 행정부는 “일반적으로 자유주의적 관점”을 취했으며 심지어 행정 명령을 통해 기관에 국가 AI 규제를 선점할 방법을 찾도록 촉구하기도 했습니다.
Jackson은 “우리는 일종의 디지털 서부 시대에 살고 있습니다.”라고 말합니다. “현재 상태의 우리 법률 시스템은 그러한 싸움에 맞서 싸울 수 있도록 구축되지 않았습니다.”
Paradis는 과거의 파괴적인 기술과 마찬가지로 우리도 결국 적응할 것이라고 조심스럽게 낙관하고 있습니다. “이것은 우리의 사생활 보호에 큰 혼란을 가져온 최초의 주요 기술이 아닙니다.”라고 그는 한때 끔찍하다고 여겨졌던 카메라와 라디오를 가리키며 말합니다. “우리는 이에 대해 더욱 현명해졌습니다. 그리고 지금도 같은 일이 일어날 것이라고 생각합니다.”