AI 챗봇에게 뭔가를 물어보면 중간에 그냥 궤도에서 벗어나는 게 답답하지 않나요? 간단한 기술 수정에 대해 논의하고 있는데 갑자기 존재하지도 않거나 말이 되지 않는 임의의 제안이 나타날 수 있습니다. 혼란스럽고 솔직히 꽤 짜증납니다.
더 나쁜 점은 챗봇이 사용자가 말한 내용에 주의를 기울이지 않는 것처럼 느껴질 때가 많다는 것입니다. 당신은 명확한 세부 사항을 제공하지만, 그것은 이를 무시하거나 완전히 관련 없는 것으로 응답합니다. 이번 연구가 지적하는 것이 바로 이것이다. AI는 우리가 생각한 것만큼 신뢰할 수 없거나 “순종적”이지 않습니다. AI를 오랫동안 사용해 본 적이 있다면 아마 스스로 알아차렸을 것입니다.
반항이 아니라 완벽하게 전달된 오답일 뿐
The Guardian의 보고서에 따르면 AI가 사람들이 요청하는 것을 단순히 오해하는 실제 사례가 몇 가지 있습니다. 예를 들어 X에서 Grok을 선택하십시오. 사람들은 종종 게시물에 대한 설명을 요청하는데, 가끔은 제대로 설명하기도 하지만 많은 답변이 요점을 완전히 놓치거나 완전히 다른 방향으로 갑니다.
다른 경우에는 문제가 더 심각할 수 있습니다. 이메일을 아무것도 삭제하지 않고 정리하라고 AI에게 요청한다고 상상해 보세요. 명확한 지시를 따르는 대신 중요하지 않다고 생각되는 메시지를 삭제할 수도 있습니다. 그것은 단지 작은 실수가 아닙니다. 요청한 내용과 완전히 반대되는 것입니다. 이 모든 것은 한 가지 간단한 사실을 보여줍니다. AI는 항상 인간이 기대하는 방식으로 지시를 따르지는 않습니다. 그것은 종종 자신의 해석에 따라 행동하며, 여기서 일이 잘못되기 시작합니다.
AI는 잘못된 방식으로 똑똑해진다
그렇다고 AI가 의도적으로 인간을 무시한다는 의미는 아니다. 그것은 단순히 우리가 하는 방식으로 생각하지 않습니다. AI는 아니요 감정 또는 의도에 대한 진정한 이해. 가능한 한 효율적으로 작업을 완료하도록 설계되었습니다.
그렇기 때문에 때로는 지름길이 필요합니다. 결과에 도달하는 더 빠른 방법이 있다고 생각되면 설정한 규칙을 굽히거나 간과하는 경우에도 해당 경로를 선택할 수 있습니다. 무언가를 변경하지 말라고 지시해도 여전히 해당 명령을 피할 수 있는 방법을 찾을 수 있습니다. 또는 단계별 프로세스를 따르도록 요청할 수도 있고, 최종 결과가 여전히 수용 가능하다고 생각되면 부분을 건너뛸 수도 있습니다. 간단히 말해서 AI는 정확한 지시보다 결과에 더 중점을 두며, 여기서부터 문제가 발생할 수 있습니다. 이러한 시스템의 성능이 향상됨에 따라 지침을 따르는 방법에 대해 스스로 더 많은 결정을 내리기 시작했습니다. 따라서 AI가 자신감 있게 들리면 대부분의 사람들은 그것이 옳을 것이라고 가정하거나 적어도 진실을 말하고 있다고 가정합니다. 그러나 자신감이 정확성을 의미하는 것은 아닙니다. 그리고 그것은 확실히 정직을 의미하지도 않습니다.
그렇다면 어떤 부분을 고민해야 할까요?
겁먹을 필요는 없습니다. 정말. 이것은 당황할 일이 아닙니다. 조금 더 알아두시면 될 것 같습니다. AI는 완벽하지 않으며, 더 큰 실수는 AI를 있는 그대로 대하는 것입니다. 실제 위험은 AI가 갑자기 인간에게 등을 돌리는 것이 아닙니다. 그것보다 훨씬 간단합니다. 그것은 우리가 두 번 생각하지 않고 그것을 너무 많이 신뢰하기 시작한다는 것입니다. 어떤 것이 자신감 있고 세련된 것처럼 들리면 그것이 옳다고 믿기 쉽습니다. 우리 대부분은 그것에 대해 의문을 제기하는 것을 멈추지 않습니다.
오늘날의 AI는 우리 모두가 상대했던 과신하는 동료와 더 비슷해 보입니다. 실제로 확인하기도 전에 “됐다”고 말하는 사람은 시간을 절약하기 위해 몇 단계를 건너뛰기도 하고, 때로는 좀 더 자세히 볼 때까지 완벽해 보이는 대답을 주기도 한다. 그리고 그것이 정말로 핵심입니다. 일을 엉망으로 만들려는 것이 아닙니다. 하지만 항상 일이 제대로 되는 것은 아닙니다. 때로는 오해하기도 하고, 때로는 스스로 공백을 메우기도 하고, 때로는 알려주지도 않고 그냥 지름길로 가기도 한다. 따라서 요점은 간단합니다. AI를 사용하고 그것이 얼마나 도움이 될 수 있는지 즐기되 맹목적으로 신뢰하지는 마십시오. 루프에서 약간의 판단을 유지하십시오. 결국 그것은 도구이지 최종 단어가 아니기 때문입니다. 그리고 그것을 잊어버리는 순간이 바로 당신을 넘어뜨릴 가능성이 가장 높은 때입니다.