미국 은행들은 새로운 종류의 디지털 문제에 직면해 있습니다. 즉, 인공 지능 에이전트가 고객 계정에 액세스하여 사용자가 의도한 것 이상의 작업을 수행하려고 시도하는 것입니다. AI 도구가 웹사이트를 탐색하고 독립적으로 작업을 수행하는 능력이 향상됨에 따라 금융 기관은 AI 도구가 보안 경계를 넘지 못하도록 하기 위해 안간힘을 쓰고 있습니다.
Axios가 10월 22일 발표한 보고서에 따르면, 미국의 주요 은행들은 승인 없이 고객 계좌 내에서 활동하는 제3자 AI 에이전트를 탐지했습니다. 일부 에이전트는 사용자 지시와 별개로 작업을 시도하는 것으로 나타났습니다. 관련 은행은 모든 사건을 공개적으로 자세히 설명하지 않았으며, 보고된 활동으로 인해 광범위한 고객 자금 도난이 발생했다는 증거도 없습니다.
은행은 고객에게 AI 에이전트를 알리는 데 어려움을 겪고 있습니다.
반면에 AI 에이전트는 기존 챗봇과 달리 웹사이트와 상호 작용하고, 인터페이스를 사용하고, 사용자를 위해 다단계 작업을 시도할 수 있습니다. 권한에 따라 계정에 로그인하거나, 정보를 검색하거나, 거래를 시작할 수 있습니다.
이는 신원 확인, 사기 탐지, 계좌 접근 통제를 중심으로 하는 은행의 문제입니다. 인간 고객처럼 행동하기 위해 AI 에이전트를 사용하면 금융 기관이 합법적인 행동, 자동화된 행동 또는 잠재적으로 유해한 행동을 구별하기 어려울 수 있습니다.
업계 대응의 일환으로 Morgan Stanley, Bank of America, JPMorgan Chase 및 Wells Fargo를 포함한 주요 기관이 보고서에 이름을 올렸습니다. 일부 제3자 AI 에이전트는 위험 관리를 위해 서비스 약관을 업데이트하는 은행에 의해 차단된 것으로 알려졌습니다.
일부 고객은 로그인 자격 증명을 AI 도구에 넘겨 활동을 무단으로 간주해야 하는지에 대한 질문을 복잡하게 만들기도 했습니다. 에이전트에게 액세스 권한을 부여한다고 해서 그것이 수행하는 모든 작업이 사용자의 의도라는 의미는 아니지만 은행이 침해당했다는 의미도 아닙니다.
AI 고객에게 이것이 의미하는 바
단속으로 인해 고객이 금융 업무에 타사 AI 보조자를 사용하는 것이 더 어려워질 수 있습니다. 또한 은행은 액세스를 제한하거나, 추가 확인을 요구하거나, 보안 표준을 충족하지 않는 자동화된 활동을 제한할 수 있습니다.
문제는 모든 AI 에이전트가 위험하다는 것이 아니다. 오히려 은행은 어떤 소프트웨어가 계정에 액세스하고 있는지, 어떤 권한을 갖고 있는지, 그리고 소프트웨어가 수행하는 작업이 실제로 고객이 지시하는 것인지 여부를 알아야 합니다. 읽기 전용 액세스는 에이전트에게 정보를 얻을 수 있지만 돈을 이동할 수는 없는 기능을 제공하는 절충안 중 하나입니다.
다음 단계에서는 AI 에이전트 액세스에 대한 보다 명확한 규칙과 민감한 거래에 대한 보다 강력한 보호 장치를 기대합니다. 고객은 AI 도구에 은행 자격 증명을 제공할 때 주의해야 하며 해당 보호 기능이 성숙될 때까지 부여한 모든 권한을 검토해야 합니다.
AI 에이전트는 사람들의 손에서 지루한 일을 처리해야 합니다. 그러나 이러한 작업에 은행 계좌가 관련된 경우에는 편리함 때문에 고객의 돈을 통제할 수 없습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요