ZDNET을 팔로우하세요: 우리를 선호 소스로 추가하세요 Google에서.
챗봇을 얼마나 개인적으로 활용하시나요?
실험실 결과를 해석합니까? 재정을 정리하는 데 도움을 주셨나요? 당신의 걱정이 특히 실존적일 때 새벽 2시에 조언을 제공하시겠습니까?
그것에 대해 너무 깊이 생각하지 않으면 자신에 대한 엄청난 개인 정보가 공개될 수 있으며 이는 문제가 될 수 있습니다.
사람들이 점점 더 일상 생활에 챗봇을 통합하고 있는 가운데, 연구자들은 AI 개인 정보 제공의 의미를 알아내기 위해 노력하고 있습니다.
또한: 직원의 43%는 금융 및 고객 데이터를 포함하여 민감한 정보를 AI와 공유했다고 말합니다.
지금쯤이면 챗봇과 연애 관계를 맺거나 챗봇을 인생 코치 및 치료사로 활용하는 사람들의 이야기를 들어보셨을 것입니다. 실제로 Elon University의 2025년 연구에 따르면 미국 성인의 절반 이상이 대규모 언어 모델을 사용하고 있습니다. 게다가 챗봇은 친근하고 사람들이 계속해서 채팅하고 자신에 대해 이야기하도록 설계되었습니다.
스탠포드 인간 중심 인공 지능 연구소(Stanford Institute for Human-Centered Artificial Intelligence)의 개인 정보 보호 및 데이터 정책 펠로우인 제니퍼 킹(Jennifer King)은 “궁극적인 문제는 정보가 어디로 가는지 통제할 수 없고, 예상하지 못한 방식으로 정보가 유출될 수 있다는 것입니다.”라고 말했습니다.
이론이 추상적으로 들릴 수도 있지만 King과 같은 연구자들은 챗봇에게 말하는 내용과 해당 정보가 미래에 어떤 영향을 미칠지 정확히 고려해 볼 가치가 있다고 말합니다.
챗봇을 너무 개인적으로 사용하는 것에 대해 알아야 할 6가지 사항은 다음과 같습니다.
1. 암기, 예측, 감시
그렇다면 챗봇에게 자신에 대한 민감한 정보를 제공하는 것이 어떤 해를 끼칠까요?
정확히는 아무도 확신하지 못하는데, 그게 문제입니다. 연구자들이 가지고 있는 한 가지 질문은 모델이 정보를 기억하는지, 그렇다면 해당 정보를 그대로 또는 거의 그대로 되돌릴 수 있는지 여부입니다. 암기는 실제로 영어의 핵심 불만 중 하나입니다. 뉴욕 타임즈OpenAI를 상대로 소송을 제기했습니다. (OpenAI는 2024년 성명에서 “역류는 드문 버그”라고 밝혔으며 이를 제거하려고 노력하고 있습니다.)
(공개: ZDNET의 모회사인 Ziff Davis는 2025년 4월 OpenAI를 상대로 AI 시스템 교육 및 운영에 있어 Ziff Davis의 저작권을 침해했다고 주장하는 소송을 제기했습니다.)
King은 “우리는 올바른 일을 하고 기억된 데이터가 유출되는 것을 막는 가드레일을 설치하려고 노력하는 기업에 크게 의존하고 있습니다.”라고 말했습니다.
인터넷에는 공공 기록을 포함해 훈련 데이터로 활용될 수 있는 온갖 종류의 개인 정보가 떠돌고 있습니다. 또는 누군가가 민감한 정보를 수정하지 않고 방사선 보고서나 의료 청구서와 같은 문서를 업로드했을 수도 있습니다.
우려되는 점은 이 모든 데이터가 감시에 사용될 수 있다는 점이라고 킹은 말했습니다.
또한: AI 개인정보 보호가 걱정되나요? Signal 창립자의 이 새로운 도구는 채팅에 엔드투엔드 암호화를 추가합니다.
그러한 두려움이 경각심을 불러일으키면 King은 지난 몇 주 동안 국방부와 Anthropic의 싸움을 다시 요청했는데, 그곳에서 회사는 자사 제품이 대규모 국내 감시에 사용되는 것에 반대했습니다.
“그 결과 나온 가장 중요한 것 중 하나는 이러한 것들이 대규모 공공 감시에 사용될 수 있다는 일종의 암묵적인 인정이었습니다”라고 그녀는 말했습니다. “이러한 모델을 사용하여 매우 다양한 데이터 포인트를 살펴볼 수 있다는 점은 우리가 걱정하는 유형입니다.”
모델에 특정 데이터가 없더라도 사람에 대해 예측할 수는 있습니다.
King은 자신의 팀 연구에 대한 Stanford의 기사에서 심장 건강에 좋은 저녁 식사 아이디어에 대한 요청이 개발자의 생태계를 통해 필터링되어 귀하를 “건강에 취약한” 사람으로 분류하고 해당 정보가 결국 보험 회사의 손에 들어가는 예를 제시했습니다.
King의 연구 결과에 따르면 기업이 이러한 문제를 해결하기 위해 무엇을 하고 있는지가 항상 명확한 것은 아닙니다. 일부 조직에서는 업로드된 사진에서 얼굴을 흐리게 하는 등 훈련에 데이터를 사용하기 전에 데이터를 식별 해제하는 조치를 취합니다. 이렇게 하면 해당 사진이 향후 얼굴 인식에 사용되지 않을 수 있습니다. 다른 회사에서는 전혀 아무것도 하지 않을 수도 있습니다.
2. 설정이 너무 느슨할 수 있습니다.
플랫폼 설정은 미로처럼 복잡할 수 있지만 옵션을 이해하는 데 시간을 투자할 가치가 있습니다. Claude 및 ChatGPT와 같은 일부 챗봇은 비공개 채팅을 제공합니다. 클로드의 시크릿 채팅을 사용하면 대화 내용이 채팅 기록에 저장되거나 교육에 사용되지 않습니다. 그러나 이러한 채팅은 고정된 설정이 아닙니다. ChatGPT의 임시 채팅에도 동일하게 적용됩니다.
플랫폼에는 채팅 기록을 삭제하거나 모델 학습 데이터에 채팅이 사용되지 않도록 선택 해제할 수 있는 다른 옵션이 있을 수 있습니다.
또한: AI로부터 개인 정보를 보호하기 위한 5가지 쉬운 Gemini 설정 조정
King은 또한 예를 들어 자신의 계정이나 업무용 계정을 사용하는 경우 기억해 두는 것이 좋다고 말했습니다.
“사람들은 자신이 대화한 내용을 모르거나 잊어버립니다.”라고 그녀는 말했습니다. “이것은 당신의 업무 상황이고, 당신의 업무 AI이며, 당신은 정말 우울하다고 말하고 있습니다. 거기에는 직원들이 개인 정보 보호를 기대하지 않습니다.”
3. 감정은 추가적인 맥락을 드러낸다
대부분의 사람들은 인터넷에 접속할 때 어느 정도의 정보 공개에 익숙할 것입니다. Google 검색에도 개인의 생활에 관한 민감한 정보가 포함될 수 있습니다.
하지만 챗봇과의 대화는 더 많은 정보와 맥락을 추가합니다.
King은 자살 예방 핫라인과 같은 검색을 사람의 가장 깊은 생각과 감정을 자세히 설명하는 1,000줄의 녹취록과 비교하면서 “검색어는 전체 채팅 기록보다 특히 감정 상태에 대해 훨씬 덜 드러냅니다.”라고 말했습니다.
4. 인간이 책을 읽고 있을지도 모른다
AI는 아주 유명하게도 인간이 아닙니다. 어떤 사람들에게는 이 개념이 민감한 정보를 공유하는 것을 더 편안하게 만들어줄 수도 있습니다. 그러나 사람이 답장을 입력하지 않는다고 해서 메시지를 읽지 못할 수도 있다는 의미는 아닙니다.
또한: Meta 작업자가 Ray-Ban 스마트 안경을 통해 볼 수 있습니까? 보안 전문가가 말하는 것
King은 일부 플랫폼이 인간의 입력을 기반으로 시스템이 부분적으로 훈련되는 강화 학습에 인간을 사용한다고 지적했습니다. 예를 들어, 챗봇 응답에 플래그를 지정하면 전 세계 어딘가의 작업자가 모델 개선을 위해 이를 확인할 수 있습니다. King이 말했듯이, 입력한 내용이 언제 사람의 검토를 받게 될지 항상 명확한 것은 아닙니다.
5. 정책이 뒤처지고 있다
이러한 사항을 특히 까다롭게 만드는 것은 AI 회사가 민감한 데이터를 저장하는 방법에 대한 규제가 부족하다는 것입니다.
예를 들어 캘리포니아 소비자 개인 정보 보호법에는 의료 기록과 같은 데이터를 다른 형태의 데이터와 어떻게 다르게 처리해야 하는지에 대한 특정 요구 사항이 있습니다. 그러나 미국의 규제는 주마다 다를 수 있으며 연방 차원에서는 규제가 없습니다.
킹 목사는 “우리를 보호하는 법이 있다면 그다지 위험하지 않을 것”이라고 말했다.
말이 너무 많으면 어떡하지…
이미 챗봇에 너무 많은 것을 공개했기 때문에 자신이 움츠러들고 있다면 몇 가지 옵션이 있을 수 있습니다. King은 미래를 위해 만들었을 수 있는 오래된 대화와 개인 설정을 삭제할 것을 권장했습니다.
이러한 단계로 인해 훈련 데이터에서 정보가 제거되는지 여부는 연구원들이 알 수 없다고 King은 말했습니다.
각 플랫폼에는 개인 데이터를 처리하기 위한 자체 정책과 방법이 있으며, 이에 대해 자세히 알아보는 것이 필요할 수 있습니다. 다음은 일부 주요 업체의 리소스에 대한 링크입니다.