ZDNET을 팔로우하세요: 우리를 선호 소스로 추가하세요 Google에서.
ZDNET의 주요 시사점
- AI와 빅테크는 개인정보를 침해하고 있습니다.
- Proton의 암호화 도구는 점점 더 매력적으로 다가오고 있습니다.
- Proton CEO Andy Yen은 불량 요원이 범람하는 미래를 걱정합니다.
AI의 인기가 지속적으로 치솟으면서 기술을 둘러싼 개인 정보 보호 및 안전에 대한 우려가 특히 지난해 동안 계속해서 증가했습니다.
AI는 이제 사이버 범죄자들이 사용하는 일반적인 도구이므로 악의적인 행위자가 귀하의 데이터를 훨씬 더 쉽게 훔칠 수 있습니다. 또한 이 기술을 사용하면 대규모 감시를 새로운 극단으로 확장할 수 있습니다. OpenClaw와 같은 AI 에이전트는 Nvidia 및 Meta와 같은 거대 기술 기업의 수용에도 불구하고 민감한 정보를 유출하거나 삭제하면서 계속해서 악성 행위를 해왔습니다.
또한: Proton은 최근 Google Workspace 대안을 출시했으며 완전히 암호화되었습니다.
이번 달 초 저는 DC에서 열린 Semafor World Economy에 참석했습니다. 그곳에서 500명의 CEO가 정부 지도자들과 함께 AI가 보안 및 개인 정보 보호에 미치는 영향을 포함한 글로벌 비즈니스 현황에 대해 논의했습니다. VPN 및 개인 디지털 서비스 제공업체인 Proton의 CEO인 Andy Yen이 이 주제에 대해 연설했습니다. 나는 패널이 끝난 후 Yen과 함께 프라이버시가 AI와 공존할 수 있는지, AI의 미래는 어떤 모습인지, 그가 Proton이 성공할 수 있는 좋은 위치에 있다고 생각하는 이유에 대해 논의했습니다.
대중 의식 속의 프라이버시
AI와 개인 정보 보호의 균형은 밀접하게 연관되어 있습니다. AI 도구가 액세스할 수 있는 데이터가 많을수록 기업용이든 개인용이든 성능이 향상된다는 생각이 듭니다. 이는 위험 허용 범위에 대한 구현 및 효율성을 직접적으로 결정합니다. 그럼에도 불구하고 특히 의료와 같은 민감한 사용 사례에서 지난 2년 동안 인기가 급상승했습니다.
추가: ChatGPT가 귀하에 대해 알고 있는 내용을 감사하고 데이터 개인정보 보호를 회복하는 방법
Proton은 일반 소비자 사이에서 AI 사용이 폭발적으로 증가하기 훨씬 전인 2014년 창립 이래 Google, Microsoft, Meta와 같은 거대 기술 기업의 도구에 대한 개인 정보 보호 우선 대안을 사용자에게 제공해 왔습니다. 그러나 Yen은 AI 도구의 등장이 대중 사이에서 데이터 개인 정보 보호에 대한 우려를 대중화했다고 생각하지 않습니다. 그의 관점에서 문제는 개인 정보 보호 인식과 기술 채택 간의 세대 간 불일치입니다.
그는 “개인 정보 보호에 정말로 관심을 갖고 있지만 기술에 대한 지식이 부족하고 자신을 보호하는 방법을 모르는 사람들이 더 많습니다”라고 말했습니다. “그 다음에는 일종의 중년층이 있습니다. 사실 우리는 부모님이 사생활 보호에 중점을 두지 않았음에도 불구하고 이 모든 기술을 채택하고 있기 때문에 실제로 최악입니다. 그래서 우리는 더 무지하고 더 많이 노출됩니다.”
즉, 엔은 교육이 이 문제를 해결할 것이라고 낙관하고 있습니다.
또한: 챗봇에 대해 좀 더 입을 다물어야 하는 5가지 이유(및 과거 실수를 수정하는 방법)
그는 “누군가를 보호하는 가장 좋은 방법은 단순히 위험에 대해 가르치는 것”이라고 말했다. “교육이 제대로 이루어지면 다른 모든 것은 자연스럽게 따라오게 될 것입니다.”
하지만 그 해결책 외에도 그는 대중의 인식 부족이 단순히 시간 문제일 뿐이라고 희망하고 있습니다.
그는 “장기적인 추세라는 맥락에서 이를 받아들여야 한다고 생각한다”고 말했다. “2014년에 Proton을 시작했을 때 아마도 10명 중 1명은 Google과 Facebook의 비즈니스 모델을 이해했을 것입니다. 오늘날에는 10명 중 4명 정도가 이해하고 있습니다. 그리고 OpenAI가 광고를 게재하고 수익에 대한 편견 제안을 추진하기 시작했을 때 더 많은 사람들이 이를 보게 되었습니다. 아마도 10명 중 7명일 것입니다.”
현재 엔은 무관심해 보이는 상황에도 불구하고 차세대가 AI가 창조하는 세계에 가장 잘 준비되어 있다고 믿습니다.
그는 “젊은이들이 가장 잘 알고 있다. 그들은 구글이 어떻게 돈을 버는지, 광고가 어떻게 작동하는지, 알고리즘에 대해 알고 있지만 신경 쓰지 않는 것 같다”고 말했다. “무지함과 배려하지 않음 사이의 선택을 고려할 때 나는 청중이 관심을 갖도록 유도할 수 있기 때문에 인식하고 관심을 갖지 않는 청중을 선호합니다.”
또한: 개인 정보 보호를 최우선으로 하는 이 챗봇이 인기를 얻고 있습니다. 이를 시도하는 이유와 방법은 다음과 같습니다.
개인 브라우저 회사인 DuckDuckGo의 챗봇인 Duck.ai는 올해 초 웹 트래픽이 증가한 것을 확인했습니다. ChatGPT 및 Claude와 같은 업계 리더를 확보하지는 못했지만 이러한 급증은 Yen이 Proton에서 보고 있는 추세를 반영하며 더 많은 사람들이 결국 개인 정보 보호 우선 옵션으로 전환할 것이라고 확신합니다.
Yen은 회사의 암호화된 챗봇에 대해 “Lumo는 오늘날 Proton 내에서 가장 빠르게 성장하는 제품입니다.”라고 말했습니다. “이런 종류의 쇼는 사람들이 AI를 필요로 한다는 것을 보여줍니다. 사람들은 AI를 매일 사용하고 오늘날 생활의 매우 많은 부분을 차지하지만 근본적으로 아무도 이를 신뢰하지 않습니다. AI의 이점을 얻을 수 있지만 미래에도 대화가 비공개로 유지된다는 보장은 매우 강력합니다. 시간이 지남에 따라 더 많은 사람들이 그것을 원할 것입니다.”
AI의 가장 큰 위협
그러나 Proton이 제공하는 보호에는 한계가 있습니다. 내가 Yen에게 AI와 관련하여 그와 Proton이 준비되지 않은 것이 무엇이라고 생각하는지 물었을 때 그는 즉시 “에이전트”라고 대답했습니다.
“세계에서 가장 강력한 암호화를 가질 수 있지만 사용자로서 에이전트에게 장치의 Proton Mail에 대한 액세스 권한을 자유롭게 부여하고 해당 에이전트가 미친 듯이 온라인 어딘가에 모든 정보를 게시한다면 Proton의 암호화는 당신을 구할 수 없습니다”라고 그는 말했습니다. “그것은 우리가 할 수 있는 일에 대한 본질적인 한계입니다.” 그는 이론적으로 Proton이 이러한 취약점에 대응하는 자체 에이전트를 개발할 수 있지만 아직 작업 중은 아니라고 말했습니다.
또한: AI Chrome 확장 프로그램 뒤에 있는 권한을 자세히 살펴볼 필요가 있습니다. 이 확장 프로그램이 귀하를 감시하고 있을 수 있습니다.
Yen은 로컬 AI를 개인 정보 보호 문제를 해결하는 가장 좋은 방법 중 하나로 보고 있습니다. (Proton의 자체 Scribe AI 작성 도우미는 사용자에게 로컬로 실행할 수 있는 옵션을 제공합니다.) 현재 개인 장치에서 컴퓨팅을 확장하는 것은 어렵지만 그는 로컬 AI가 향후 몇 년 내에 훨씬 더 효과적으로 작동할 것이라고 생각합니다.
Yen은 “최신 iPhone을 보고 10년 전 최초의 스마트폰과 비교해 보면 컴퓨팅 용량과 저장 용량이 훨씬 더 높으며 이러한 추세는 계속될 것입니다”라고 말했습니다. “그러나 LLM이 반드시 더 커지는 것은 아닙니다. 사실 우리는 시간이 지남에 따라 효과적인 더 작은 모델을 갖게 될 것입니다.”
조기 개입
데이터 개인 정보 보호 위험으로부터 미래 세대를 보호하는 한 가지 방법은 이들을 Big Tech의 생태계에서 완전히 차단하는 것입니다. Yen은 Proton이 가장 큰 영향을 미칠 수 있다고 믿기 때문에 어린이 보호에 중점을 두고 있다고 말했습니다. 지난 달, 회사는 부모가 자녀가 태어나기 전부터 Proton을 통해 자녀의 첫 번째 이메일 주소를 예약할 수 있는 옵션을 출시했습니다.
또한: AI 개인정보 보호가 걱정되나요? Signal 창립자의 이 새로운 도구는 채팅에 엔드투엔드 암호화를 추가합니다.
“많은 사람들에게 돌봄을 시작하는 순간은 아이를 갖게 될 때입니다”라고 그는 말했습니다. “당신에게는 선택권이 있습니다. 그에 수반되는 모든 단점과 함정을 안고 Google 생태계에 등록하여 거대 기술에 의해 남용되는 상품으로 평생을 가둘 것입니까? 아니면 대안적인 길을 택하고 다른 삶의 시작을 설정하시겠습니까?”
엔화의 경우 결정에는 타이밍이 매우 중요합니다.
“만약 20년 동안 구글에 의해 착취당한 40세의 누군가에게 대안을 제공한다면, 안 하는 것보다는 늦는 게 낫겠지만, 처음부터 다음 세대에게 가능한 최고의 시작을 선사할 수 있다면 훨씬 낫다고 생각합니다.”라고 그는 말했습니다.
개인정보 보호를 최우선으로 하는 AI가 경쟁할 수 있을까요?
AI 기반 데이터 크리프가 줄어드는 미래는 대규모로 수행되는 경우에만 의미가 있을 것입니다. Proton과 같은 회사는 개인 소비자와 기업 고객이 개인 정보 보호에 충분히 관심을 갖고 레거시 시스템과 그들이 제공하는 매력적인 기능을 떠나도록 해야 하는 과제에 직면해 있습니다. 예를 들어, 개인화는 AI의 가장 매력적인 장점 중 하나이며, 이는 엄청난 양의 데이터가 있어야만 가능합니다. 암호화로 실행되는 AI가 수행할 수 있는 작업이나 AI가 얼마나 성공적으로 성장할 수 있는지 제한됩니까?
Yen은 암호화된 데이터를 사용하여 효과적으로 계산하는 것이 가능하지만 개인 정보 보호 우선 AI와 선도적인 프론티어 연구소 간의 가장 큰 차이점은 비용이라고 지적했습니다.
Yen은 자신의 회사가 최근 출시한 엔터프라이즈 제품군에 대해 “Google Workspace와 Proton Workspace가 있으며 둘 다 비슷해 보입니다.”라고 말했습니다. “하지만 실제로는 암호화 기능이 있기 때문에 우리 작업이 10배 더 어렵습니다. 따라서 비용도 더 많이 들고 시간도 더 오래 걸릴 것입니다. 하지만 실제로 데이터를 보호할 것이기 때문에 결국 대부분의 사용자에게 더 나은 제품을 제공할 것입니다.”
또한: Proton은 Google Workspace 대안을 출시하며 이는 완전히 암호화됩니다.
개인 정보 보호를 통해 더 나은 제품이 나올 수 있지만 추가 비용은 누가 부담합니까? Workspace에 대한 Proton의 자체 발표에 따르면 표준 계층의 경우 월 12달러(연간 지불)에서 15달러(월별 지불)까지, 프리미엄 계층의 경우 월 20달러(연간 지불)에서 25달러(월별 지불)까지 경쟁력 있는 가격이 책정되어 있습니다. Proton은 또한 매년 또는 기존 고객에게 가격을 인상하지 않는다고 말했습니다. 명확히 하기 위해 Proton의 대변인은 ZDNET에 “보다 효율적인 상점”을 운영하면 엔이 언급한 높은 비용에도 불구하고 고객에게 더 낮은 가격을 유지할 수 있다고 말했습니다.
“비슷한 성능을 얻는 데 기술적 장벽이 실제로 존재하지 않습니다.”라고 Yen은 덧붙였습니다. “시간이 더 걸릴 뿐입니다.” 회사 비즈니스 모델의 큰 그림에서 그는 Proton의 프리미엄 제품이 지금까지 그만한 가치가 있음이 입증되었다고 말했습니다.
“우리에게 VC 투자자가 없다는 사실은 실제로 이 모델이 대부분의 사람들이 생각하는 것보다 더 확장 가능하다는 것을 보여줍니다.”
공식 정보 바로가기