수년 동안 AI에 관한 가장 큰 대화는 이러한 도구가 무엇을 할 수 있는지였습니다. 그들은 웹을 탐색하고, 문서를 분석하고, 앱에 연결하고, 조사를 수행하고, 점점 더 귀하를 대신하여 행동할 수 있습니다. 그러나 AI 시스템의 성능이 향상됨에 따라 또 다른 질문을 무시하기가 더 어려워졌습니다. AI 보조자가 속임수를 써서 전달해서는 안되는 정보를 전달하면 어떻게 될까요?
OpenAI의 새로운 잠금 모드는 이 문제에 대한 최신 답변입니다. 모든 ChatGPT 계정 유형에서 사용할 수 있는 잠금 모드는 민감한 정보를 처리하는 사람과 조직을 위해 설계된 선택적 보안 설정입니다. 단점은 특정 형태의 데이터 도난에 대해 더 강력한 보호를 받을 수 있지만 ChatGPT의 가장 강력한 기능 중 일부에 액세스할 수 없다는 것입니다.
이 새로운 보안 기능으로 ChatGPT는 집처럼 편안해졌습니다.
잠금 모드는 주로 신속한 주입 공격으로 인한 데이터 유출 위험을 줄이기 위해 존재합니다. 신속한 주입은 AI 시대의 가장 어려운 보안 과제 중 하나로 등장했습니다. 소프트웨어를 직접 공격하는 대신 AI 시스템이 처리할 수 있는 문서, 웹사이트, 스프레드시트, 이메일 또는 기타 콘텐츠 내부에 악의적인 지침이 숨겨져 있습니다. 모델이 숨겨진 지침을 따르면 공격자가 모델의 동작을 조작할 수 있습니다.
OpenAI는 잠금 모드가 콘텐츠에 프롬프트 주입이 나타나는 것을 막지 않는다는 점을 주의 깊게 지적합니다. 업로드된 파일이나 캐시된 웹페이지 내에 악성 명령이 여전히 존재할 수 있습니다. 잠금 모드의 목표는 최종이자 잠재적으로 가장 위험한 단계인 민감한 정보를 유출하는 것입니다. 이를 달성하기 위해 OpenAI는 ChatGPT가 자체 환경 외부와 통신할 수 있는 것을 극적으로 제한합니다.
활성화되면 라이브 웹 탐색이 기본적으로 종료됩니다. ChatGPT는 캐시된 콘텐츠에만 액세스할 수 있습니다. 즉, 검색 결과가 제한되거나, 오래되었거나, 완전히 사용 불가능할 수 있습니다. Deep Research가 사라지고 에이전트 모드가 비활성화되며 Canvas 생성 코드를 통한 네트워크 액세스가 차단됩니다. ChatGPT는 분석을 위해 파일을 다운로드하는 기능도 상실합니다.
사용자는 지원되는 경우 계속 이미지를 업로드하고 AI 생성 시각적 개체를 만들 수 있지만 ChatGPT는 웹에서 이미지를 가져오거나 일반적인 응답으로 표시할 수 없습니다. 따라서 잠금 모드는 ChatGPT를 고도로 연결된 AI 보조자에서 훨씬 더 고립된 보조자로 바꿉니다.
대부분의 사람들에게는 절대 필요하지 않은 기능
그것은 비판이 아닙니다. 실제로 잠금 모드의 가장 흥미로운 점 중 하나는 OpenAI가 이 모드가 모든 사람을 위해 설계되지 않았다는 점을 얼마나 공개적으로 인정하는지입니다. 그러나 보안 전문가들은 보안을 강화하려면 일반적으로 편의성이 희생된다는 점을 오랫동안 인정해 왔습니다. 가장 가까운 비교는 아마도 몇 년 전에 도입된 Apple의 “Lockdown Mode(잠금 모드)”일 것입니다. Apple은 일반 iPhone 소유자가 아닌 고도로 정교한 사이버 공격의 위험에 처한 사람들을 위해 이 제품을 만들었습니다. OpenAI도 비슷한 접근 방식을 취하고 있는 것으로 보입니다.
매우 민감한 정보를 다루는 사용자의 경우 네트워크 요청을 제한하는 것은 희생할 가치가 있습니다. AI 시스템이 외부 서비스와 자유롭게 상호 작용할 수 없으면 기밀 정보가 환경 외부로 유출될 기회가 줄어듭니다. 이러한 움직임은 또한 AI 산업 전반에 걸쳐 일어나고 있는 더 광범위한 변화를 반영합니다. 이전 대화에서는 AI가 더 많은 데이터와 더 많은 서비스에 액세스할 수 있는지 여부가 중심이었습니다. 점점 더 많은 기업들이 이러한 시스템에 우선 어느 정도의 액세스 권한을 부여해야 하는지 묻고 있습니다.
AI 비서가 웹사이트를 탐색하고, 비즈니스 소프트웨어에 연결하고, 내부 문서를 읽고, 여러 서비스에 걸쳐 작업을 수행하는 능력을 갖게 되면서 이 질문은 특히 중요해졌습니다. OpenAI의 대답은 이러한 기능을 제거하는 것이 아닙니다. 대신 사용자에게 선택권을 제공합니다.
AI 보안 통제의 증가
잠금 모드는 아마도 AI 제품의 미래에 대해 말하는 것으로 가장 주목할 만합니다. 수년 동안 소프트웨어 보안은 주로 악성 프로그램으로부터 사람들을 보호하는 데 중점을 두었습니다. AI는 악의적인 정보로부터 AI 시스템을 보호하는 또 다른 과제를 제시합니다.
그것은 훨씬 더 복잡한 문제입니다. 프롬프트 삽입은 웹페이지에 숨겨지거나, 문서에 포함되거나, 일반 텍스트로 위장될 수 있습니다. 가능한 모든 공격을 탐지하는 것은 어렵습니다. 따라서 OpenAI는 즉각적인 주입을 해결된 문제라기보다는 지속적인 연구 과제로 설명합니다.
잠금 모드는 이러한 현실을 인정합니다. 완전한 보호를 주장하는 대신 기존 방어 장치를 통해 무언가가 빠져나가는 경우 잠재적인 피해를 줄입니다. 기업 고객의 경우 기능이 더욱 세분화됩니다. Workspace 관리자는 사용자 정의 잠금 모드 역할을 생성하고, 앱과 커넥터를 제한하고, 직원이 수행할 수 있는 작업을 신중하게 결정할 수 있습니다. OpenAI는 또한 쓰기 지원 통합을 제한할 것을 권장합니다. 이는 정보가 신뢰할 수 있는 환경을 떠날 수 있는 기회를 만들기 때문입니다.
여러 면에서 잠금 모드는 AI 보안이 어디로 향하고 있는지 보여주는 신호처럼 느껴집니다. AI 보조자가 더욱 강력해질수록 상황에 따라 자신의 능력을 축소할 수 있는 도구가 더 많은 사용자에게 필요하게 됩니다. 이는 새로운 추론 모델이나 항공편을 예약할 수 있는 AI 에이전트만큼 흥미롭지 않을 수도 있습니다. 그러나 민감한 정보를 다루는 조직의 경우 이는 훨씬 더 중요할 수 있습니다. 때로는 가장 똑똑한 AI가 모든 것을 할 수 있는 AI가 아닐 수도 있습니다. 하지 말아야 할 때를 아는 사람입니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요