Check Point Research 데모에 따르면 웹 브라우징 기능이 있는 AI 챗봇은 악성 코드 릴레이로 악용될 수 있습니다. 악성 코드가 기존 명령 서버를 호출하는 대신 챗봇의 URL 가져오기를 사용하여 악성 페이지에서 지침을 가져온 다음 응답을 감염된 시스템으로 다시 전달할 수 있습니다.
많은 환경에서 주요 AI 대상으로의 트래픽은 이미 일상적인 것으로 처리되어 명령 및 제어가 일반적인 웹 사용으로 사라질 수 있습니다. 동일한 경로를 사용하여 데이터를 이동할 수도 있습니다.
Microsoft는 성명을 통해 해당 작업을 언급하고 이를 타협 후 통신 문제로 규정했습니다. 장치가 손상되면 공격자는 AI 기반 서비스를 포함하여 사용 가능한 모든 서비스를 사용하려고 시도할 것이며 감염을 방지하고 이후에 발생하는 상황을 줄이기 위해 심층 방어 제어를 촉구했습니다.
데모는 채팅을 릴레이로 전환합니다.
개념은 간단합니다. 악성코드는 AI 웹 인터페이스에 URL을 로드하고 찾은 내용을 요약한 다음 반환된 텍스트에서 포함된 명령을 스크랩하도록 요청합니다.
Check Point는 웹 인터페이스를 통해 Grok 및 Microsoft Copilot에 대해 이 기술을 테스트했다고 밝혔습니다. 주요 세부 사항은 액세스이며 흐름은 개발자 API를 방지하도록 설계되었으며 테스트된 시나리오에서는 API 키 없이 작동하여 오용에 대한 마찰을 낮출 수 있습니다.
데이터 도난의 경우 메커니즘이 역방향으로 실행될 수 있습니다. 설명된 한 가지 방법은 데이터를 URL 쿼리 매개변수에 배치한 다음 AI 트리거 요청을 사용하여 이를 적의 인프라에 전달하는 것입니다. 기본 인코딩은 전송되는 내용을 더욱 모호하게 만들어 단순한 콘텐츠 필터링의 신뢰성을 떨어뜨립니다.
발견하기가 더 어려운 이유
이것은 새로운 악성 코드 클래스가 아닙니다. 이는 많은 회사에서 적극적으로 활성화하고 있는 서비스에 포함된 친숙한 명령 및 제어 패턴입니다. 탐색 지원 AI 서비스가 기본적으로 열려 있는 경우 감염된 시스템은 위험도가 낮아 보이는 도메인 뒤에 숨으려고 시도할 수 있습니다.
Check Point는 또한 배관이 얼마나 흔한지 강조합니다. 이 예제에서는 최신 Windows 시스템에 내장된 브라우저 구성 요소로 WebView2를 사용합니다. 설명된 워크플로에서 프로그램은 기본 호스트 세부 정보를 수집하고 AI 서비스에 대한 숨겨진 웹 보기를 열고 URL 요청을 트리거한 후 응답을 구문 분석하여 다음 명령을 추출합니다. 이는 명백한 비콘이 아니라 일반적인 앱 동작과 유사할 수 있습니다.
보안팀이 해야 할 일
웹 기반 챗봇을 손상 후 남용될 수 있는 신뢰도가 높은 다른 클라우드 앱처럼 취급하십시오. 허용되는 경우 자동화 패턴, 반복되는 URL 로드, 이상한 프롬프트 흐름 또는 사람이 사용하는 것과 일치하지 않는 트래픽 볼륨을 모니터링하세요.
AI 검색 기능은 모든 시스템이 아닌 관리되는 장치 및 특정 역할에 속할 수 있습니다. 공개 질문은 규모입니다. 이것은 데모이며 강화된 플릿에 대한 성공률을 정량화하지 않습니다. 다음으로 지켜봐야 할 것은 공급자가 웹 채팅에 더 강력한 자동화 탐지를 추가하는지 여부와 방어자가 AI 대상을 잠재적인 침해 후 채널로 취급하기 시작하는지 여부입니다.