AI 챗봇 대화에서 삭제를 누르면 실제로 사라진다고 생각하셨나요? Georgia Tech 연구원들은 그것이 전적으로 사실이 아니라는 것을 방금 증명했습니다. 그들은 전화기에서 삭제된 대화를 파헤치고 계속 대화할 수 있는 작동하는 챗봇 세션으로 다시 구축할 수 있는 ORISA라는 포렌식 도구를 구축했습니다.
ORISA는 삭제된 AI 대화를 어떻게 다시 가져올 수 있나요?
AI 도우미를 휴대폰에서 로컬로 실행하는 것은 대화를 클라우드로 전송하지 않기 때문에 비공개로 들립니다. 그러나 해당 데이터는 앱이 실행되는 동안 휴대폰의 작업 메모리에 계속 남아 있습니다. 따라서 앱 인터페이스를 통해 채팅을 삭제한다고 해서 반드시 메모리에서 삭제되는 것은 아닙니다.
ORISA는 남은 조각을 찾아서 이를 실시간으로 작동하는 AI 세션으로 다시 연결합니다. 한 테스트에서 연구원들은 Project Note Keeper라는 가상의 조수를 만들었습니다. 그들은 100가지 사실을 입력한 다음 대화를 완전히 삭제했습니다. 모델의 메모리 창이 제한되어 있기 때문에 대화가 삭제될 때 라이브 세션은 해당 사실 중 14개에만 적극적으로 액세스할 수 있었습니다.
그러나 ORISA는 당시 원래 세션에서 액세스할 수 있었던 것보다 많은 26개의 사실을 복구했습니다. 이는 원래 공유된 모든 항목을 부분적으로 복구하는 것이지만 ORISA가 원래 라이브 세션에서 관리할 수 있는 것보다 더 많은 것을 검색할 수 있음을 보여줍니다. 10개의 Android 앱과 3개의 서로 다른 AI 모델을 포괄하는 60개의 테스트 구성에서 이 도구는 삭제된 대화 데이터를 성공적으로 복구했습니다.
이것이 왜 중요한가요?
연구자들은 ORISA가 디지털 수사관이 누군가가 AI 비서와 공유한 내용과 실제 법의학적 가치가 있는 조언을 종합하는 데 도움이 될 수 있다고 말합니다. 또한 AI 챗봇 조언이 환자에게 해를 끼쳤을 수 있지만 대화가 의사와 공유되지 않은 사례를 조사하는 데 도움이 될 수도 있습니다.
그러나 동일한 기능은 온디바이스 AI 앱을 사용하는 사람들에게 개인 정보 보호에 대한 우려를 불러일으킵니다. 대화를 삭제하는 것이 기대했던 완벽한 휴식이 아닐 수도 있기 때문입니다.
현재 ORISA는 삭제된 채팅을 복원하는 데 누구나 사용할 수 있는 일반 앱이 아니라 조사관을 위해 설계된 포렌식 도구입니다. 또한 휴대폰의 메모리 및 저장소 사본에 액세스해야 하며 다른 활동으로 인해 관련 데이터를 덮어쓰면 복구가 더 어려워집니다. 그럼에도 불구하고 이 연구는 얼마나 많은 로컬 AI 앱이 뒤에서 조용히 붙잡고 있는지에 대해 주목하고 있습니다.
관련 보도:
이 주제에 대해 더 알고 싶다면 아래를 참고하세요