AI 브라우저가 차세대 제품으로 판매되고 있습니다. 페이지를 요약하고, 여행을 예약하고, 심지어 구매까지 해줄 수도 있습니다. 그러나 워싱턴 대학의 새로운 연구에 따르면 가장 인기 있는 7개 사이트 중 4개는 악성 웹사이트가 사용자가 열어 놓은 다른 사이트의 데이터를 훔칠 수 있을 만큼 심각한 보안 위험이 있는 것으로 나타났습니다. 브라우저의 성능이 높을수록 위험은 더 커집니다.
AI 브라우저가 깨는 30년 보안 법칙
1995년 이후 모든 브라우저는 웹사이트가 서로의 데이터를 읽는 것을 방지하는 동일 출처 정책이라는 규칙을 따랐습니다. 한 탭에 은행을 열고 다른 탭에서 대략적인 사이트를 방문하는 경우 해당 대략적인 사이트는 귀하의 은행 정보에 영향을 미칠 수 없습니다. 여러 탭에서 작업을 완료하려면 여러 사이트에서 읽어야 하기 때문에 AI 브라우저가 작동하려면 이 규칙을 우회해야 합니다.
이러한 광범위한 액세스는 바로 공격자가 두 가지 방법을 통해 악용할 수 있는 것입니다. 첫 번째는 악성 웹페이지가 AI 에이전트가 조작되었다는 사실을 인식하지 못한 채 따르는 비밀 지침을 숨겨 잠재적으로 개인 이메일, 비밀번호 또는 캘린더 세부 정보를 노출시키는 프롬프트 주입입니다.
두 번째 방법은 메모리 포이즈닝(memory Poisoning)으로, 심어진 명령이 에이전트의 메모리에 저장되었다가 나중에 원래 페이지가 닫힌 후에도 활성화됩니다. 연구원들은 ChatGPT Atlas에 대한 성공적인 개념 증명 공격을 실행하여 위험이 실제로 있음을 입증했습니다. Chrome용 Claude는 브라우저 확장 설계를 통해 웹페이지에 직접 코드를 삽입할 수 있기 때문에 특히 위험한 것으로 표시되었습니다.
어떤 AI 브라우저가 안전하고 어떤 브라우저가 데이터를 위험에 빠뜨리나요?
7개 브라우저 중 ChatGPT Atlas, Chrome with Gemini, Claude for Chrome, Perplexity Comet이 취약한 것으로 나타났습니다. Copilot, Brave Leo 및 Firefox AI 모드가 포함된 Microsoft Edge는 더 강력한 보안 속성을 보여 주었지만 Firefox는 기능이 가장 제한적이었습니다.
연구원들은 연구 결과를 관련된 모든 기업에 공개했습니다. Anthropic과 Firefox는 응답하지 않았습니다. Perplexity와 OpenAI는 조치를 거부한 반면, 연구원들은 완전한 엔드투엔드 공격 시연이 부족하다고 주장했습니다. 한편 Google, Microsoft 및 Brave는 조사 결과에 건설적으로 참여했습니다.
이는 AI 브라우저가 상황에 따라 어떻게 조작될 수 있는지 보여주는 최근 BioShocking 익스플로잇의 후속입니다. 현재 연구에 따르면 AI 브라우저는 보안이 유지할 수 있는 것보다 더 빠르게 움직일 수 있습니다.
관련 정보는 아래 링크에서 확인하세요