ZDNET을 팔로우하세요: 우리를 선호 소스로 추가하세요 구글에서
ZDNET의 주요 시사점
- 해커는 프롬프트 주입을 통해 AI에서 사용하는 개인 데이터를 훔칩니다.
- ChatGPT의 새로운 잠금 모드는 이러한 공격을 방지하는 것을 목표로 합니다.
- 높은 위험 레이블은 위험할 수 있는 AI 도구 및 콘텐츠에 대해 경고합니다.
즉각적인 주입 공격은 AI 도구를 사용하는 모든 사람에게 심각한 위협이 되지만, 특히 직장에서 AI 도구에 의존하는 전문가에게는 더욱 그렇습니다. 해커는 대부분의 AI에 영향을 미치는 취약점을 악용하여 텍스트 프롬프트에 악성 코드를 삽입할 수 있으며, 이로 인해 결과가 변경되거나 기밀 데이터가 도용될 수도 있습니다.
또한: 더 나은 AI 결과를 얻기 위해 사용하는 5가지 사용자 정의 ChatGPT 지침 – 더 빠르게
이제 OpenAI는 이러한 유형의 공격을 더 잘 차단하기 위해 잠금 모드라는 기능을 도입했습니다.
잠금 모드
잠금 모드는 신속한 주입 및 기타 지능형 위협에 대한 보호를 강화합니다. 이 설정을 활성화하면 ChatGPT가 외부 시스템 및 데이터와 상호 작용할 수 있는 방식이 제한되므로 공격자가 민감한 파일을 추출하는 능력이 제한됩니다.
선택적 보안 설정인 잠금 모드는 대부분의 ChatGPT 사용자에게 필요하지 않다고 OpenAI는 금요일 보도 자료에서 밝혔습니다. 오히려 이 기능은 유명 조직의 임원이나 보안 전문가와 같이 보안에 관심이 있는 사용자를 대상으로 합니다. 이를 염두에 두고 ChatGPT Enterprise, ChatGPT Edu, 의료용 ChatGPT 및 교사용 ChatGPT에서 잠금 모드를 사용할 수 있습니다.
또한: 이 4가지 중요한 AI 취약점은 방어자가 대응할 수 있는 것보다 더 빠르게 악용되고 있습니다.
잠금 모드는 ChatGPT의 어떤 도구와 기능이 가장 위험한지 결정하여 작동합니다. 목표는 프롬프트 주입을 통해 악용될 수 있는 대화 또는 연결된 앱의 민감한 데이터에 대한 액세스를 제한하는 것입니다.
(공개: ZDNET의 모회사인 Ziff Davis는 2025년 4월 OpenAI를 상대로 AI 시스템 교육 및 운영에 있어 Ziff Davis의 저작권을 침해했다고 주장하는 소송을 제기했습니다.)
일례로, 잠금 모드에서의 웹 브라우징은 캐시된 콘텐츠에 대한 액세스를 제한하므로 라이브 요청이 OpenAI 네트워크를 벗어나지 않습니다. OpenAI가 데이터가 안전하다는 것을 확인하지 않는 한 다른 기능은 완전히 비활성화됩니다. 여기서 아이디어는 공격자가 웹 브라우징을 통해 데이터를 훔치는 것을 방지하는 것입니다.
ChatGPT 비즈니스 계획은 이미 관리자가 Workspace 설정을 통해 제어할 수 있는 엔터프라이즈 수준의 보안 보호를 제공합니다. 잠금 모드는 추가 방어 계층을 추가합니다. 워크스페이스 관리자는 잠금 모드로 제어되는 앱과 작업을 선택할 수도 있습니다.
높은 위험 라벨
하지만 그게 전부는 아닙니다. OpenAI는 이제 위험할 수 있는 특정 기능에 액세스할 때 위험도 증가 레이블도 표시합니다. ChatGPT, ChatGPT Atlas 브라우저 및 Codex 코딩 도우미에서 액세스할 수 있는 이러한 레이블은 악용될 수 있는 도구나 콘텐츠로 작업하기 전에 잠시 멈출 수 있도록 설계되었습니다.
또한: AI 직업안정의 비결은? 이제 스트레스를 받지 말고 직장에서 방향을 바꾸세요. 방법은 다음과 같습니다.
예를 들어 Codex를 사용하는 개발자는 웹에서 지원을 검색할 수 있도록 도구에 네트워크 액세스 권한을 부여할 수 있습니다. 이 액세스가 활성화되면 높은 위험 레이블이 잠재적인 위험, 발생할 수 있는 변경 사항 및 해당 액세스가 보장되는 시기를 경고합니다.
높은 위험 라벨은 최소한 잠재적인 위험을 알리기 위한 단기 솔루션으로 설계되었습니다. OpenAI는 미래를 내다보며 추가적인 위험과 위협을 해결하기 위해 전반적으로 더 많은 보안 기능을 추가하여 결국 그러한 레이블의 필요성을 없앨 계획이라고 밝혔습니다.