마이크로소프트는 업무 공간에 AI 에이전트를 서둘러 배치하면 AI 이중 에이전트라는 새로운 종류의 내부자 위협이 발생할 수 있다고 경고하고 있습니다. Cyber Pulse 보고서에서는 공격자가 보조자의 액세스 권한을 왜곡하거나 신뢰할 수 없는 입력을 제공한 다음 해당 범위를 사용하여 조직 내부에 피해를 입힐 수 있다고 말합니다.
문제는 AI가 새로운 것이 아니다. 컨트롤이 불균등하다는 것입니다. Microsoft는 에이전트가 산업 전반에 걸쳐 확산되고 있으며 일부 배포는 IT 검토를 통과하지 못하고 보안 팀은 실행 중인 항목과 영향을 미칠 수 있는 항목을 파악하지 못한다고 말합니다.
에이전트가 기억하고 행동할 수 있으면 이러한 사각지대는 더욱 위험해집니다. Microsoft는 Defender 팀이 조사한 최근 사기 캠페인을 지적합니다. 이 캠페인은 AI 보조자의 저장된 컨텍스트를 변조하고 향후 출력을 조종하기 위해 메모리 중독을 사용했습니다.
섀도우 에이전트가 폭발 반경을 넓힙니다.
Microsoft는 이중 에이전트 위험을 속도와 연결합니다. 출시 속도가 보안 및 규정 준수를 앞지르면 Shadow AI가 빠르게 나타나고 공격자는 이미 합법적인 액세스 권한이 있는 도구를 탈취할 수 있는 더 많은 기회를 얻게 됩니다. 그것은 악몽의 시나리오입니다.
보고서는 이를 AI 문제인 동시에 접근 문제로 규정합니다. 상담원에게 광범위한 권한을 부여하면 단 하나의 속임수 워크플로우로 절대 건드릴 수 없는 데이터와 시스템에 접근할 수 있습니다. Microsoft는 보안 팀이 승인된 채널 외부에 표시되는 도구를 포함하여 작업에 연결된 모든 에이전트를 볼 수 있도록 관찰 가능성과 중앙 집중식 관리를 추진합니다.
확산은 이미 일어나고 있습니다. Microsoft는 직원의 29%가 업무에 승인되지 않은 AI 에이전트를 사용한 적이 있다는 조사 결과를 인용했습니다. 이는 변조를 조기에 발견하기 어렵게 만드는 일종의 조용한 확장입니다.
나쁜 메시지만 있는 게 아니다
이는 잘못된 요청을 입력하는 사람에게만 국한되지 않습니다. Microsoft는 메모리 중독을 지속적인 공격으로 강조합니다. 이 공격은 이후 대응에 영향을 미치고 시간이 지남에 따라 신뢰를 약화시키는 변경 사항을 심을 수 있습니다.
또한 AI 레드팀은 일상적인 콘텐츠에 숨겨진 유해한 지침과 추론을 미묘하게 방향을 바꾸는 작업 프레이밍 등 사기성 인터페이스 요소에 에이전트가 속이는 것을 확인했습니다. 정상적으로 보일 수 있습니다. 그게 요점입니다.
다음에해야 할 일
Microsoft의 조언은 AI 에이전트를 단순한 추가 기능이 아닌 새로운 종류의 디지털 ID로 취급하라는 것입니다. 보고서에서는 에이전트에 대한 제로 트러스트 상태를 권장하고, 신원을 확인하고, 권한을 엄격하게 유지하고, 행동을 지속적으로 모니터링하여 비정상적인 행동이 눈에 띄게 할 것을 권장합니다.
같은 이유로 중앙 집중식 관리가 중요합니다. 보안 팀이 에이전트의 목록을 작성하고, 에이전트가 도달할 수 있는 대상을 이해하고, 일관된 제어를 시행할 수 있다면 이중 에이전트 문제는 더 작아집니다.
더 많은 에이전트를 배포하기 전에 각 에이전트가 액세스할 수 있는 항목을 매핑하고, 최소 권한을 적용하고, 명령 변조에 플래그를 지정할 수 있는 모니터링을 설정하세요. 아직 이러한 기본 사항에 답할 수 없다면 속도를 늦추고 먼저 문제를 해결하세요.