AI는 다양한 산업 분야에서 광범위하게 활용되고 있지만 안정성에는 여전히 부족한 부분이 있습니다.
2026년에는 AI가 어디에나 있습니다. 학교, 온라인 저널, 실험실 및 점점 더 많은 민간 기업에서는 일반적으로 속도와 효율성이라는 이름으로 다양한 작업에 AI 프로그램을 사용합니다.
그러나 이전에 AI 챗봇을 사용해 본 사람이라면 누구나 알 수 있듯이 그 속도는 진실성을 희생할 수 있습니다.
AI의 환각 문제
챗봇에게 “지금 당장 피자를 먹기 위해 백만 달러를 지불할 의향이 있습니다”라고 말하면 해당 챗봇을 지원하는 LLM은 해당 진술을 문자 그대로 해석할 수 있습니다. 당신의 진술을 피자에 대한 유머러스하게 과장된 욕구로 읽는 것이 아니라 실제로 피자 한 조각을 얻기 위해 백만 마리의 수컷 사슴에게 기꺼이 돈을 지불할 것이라고 생각할 수도 있습니다.
AI의 맥락에서 이런 종류의 오해, 즉 ‘환각’은 챗봇에게 어리석은 질문을 할 때 상대적으로 무해합니다. 그다지 해롭지 않은 것은 AI가 약물 상호 작용을 테스트하는 제약 회사나 정치적 혼란 기간 동안 최상의 배송 경로를 예측하려는 공급망 관리자에게 부정확하거나 완전히 조작된 정보를 제공하는 경우입니다.
프로그램이 정보를 만들어내거나 정보를 잘못 해석할 때 항상 명확하다면 AI 환각은 관리하기가 더 쉬울 수 있습니다. 그러나 대부분의 LLM은 자신감 있고 기분 좋게 들리도록 만들어졌기 때문에 철저한 사실 확인 없이는 사실과 거짓을 구별하기 어려울 수 있습니다. 물론, 사용자를 위해 사실을 확인하기 위한 프로그램을 사실 확인하는 것은 직관에 어긋나고 솔직히 말해서 자멸적인 일입니다.
AI 환각에는 두 가지 더 중요한 원인이 있습니다. 첫째, 대부분의 LLM은 사용자가 무엇을 모르는지 알려주도록 프로그래밍되어 있지 않으며, 둘째, LLM이 학습하는 교육 데이터의 대부분은 부정확성과 의견으로 가득 차 있습니다.
이러한 결합된 요인으로 인해 LLM이 틀릴 뿐만 아니라 자신 있게 틀릴 수도 있습니다. 전체 기업이 AI가 거의 항상 명확하고 관련성이 높으며 정확한 응답을 제공한다는 가정을 바탕으로 모델을 구축할 때 해당 기업과 함께 일하는 사람들은 때때로 잘못된 정보를 기반으로 행동하게 될 수 있습니다.
이는 AI가 환각을 일으킬 수 있고 실제로 수행한다는 사실을 기업이 인식하지 못한다는 의미는 아닙니다. 그러나 일부 회사는 AI 환각의 근본 원인을 직접적으로 해결하는 AI 모델을 개발하기 위해 노력하기 시작했습니다.
현실 세계에서 AI 신뢰성 향상: 사례 연구
AI의 신뢰성을 향상시키기 위해 노력하는 회사 중 하나는 맨 섬에 본사를 둔 AI 회사인 Vertus입니다. 창립자인 Julius Franck, Alex Foster 및 Michal Prywata는 특정 패턴이 적용 가능한 경우와 적용 불가능한 경우를 인식하도록 설계된 인지 추론 시스템을 구축하여 유사한 상황에서 다른 많은 LLM이 영속할 수 있는 동일한 종류의 가정을 피하는 데 도움을 주었습니다.
Vertus는 AI를 테스트하기 위해 2025년 내내 금융 시장에서 시스템 거래를 진행했습니다. 이때 회사는 긍정적인 결과를 보고했습니다.
Vertus는 시장의 새로운 패턴에 신속하게 적응하는 시스템 능력이 성공의 요인이라고 생각합니다. 이를 위해 AI는 주어진 패턴이 특정 상황에 여전히 적용되는지 묻도록 설계되었습니다. 그렇지 않은 경우 시스템은 변화를 인식하고 정지하며 실제로 일어나는 일에 대한 추론을 재구성합니다.
일종의 안전 장치로서 AI는 질문에 대한 답을 찾을 수 없을 때 사용자에게 알려주도록 설계되어 자신감 있지만 실제로는 건전하지 않은 반응을 만들어낼 가능성을 줄입니다.
Vertus의 테스트 결과가 긍정적으로 나오자 회사는 AI 솔루션을 의료, 과학 연구, 공급망 관리로 확장하기 시작했습니다.
Vertus가 AI 신뢰성을 향상하기 위해 노력하는 유일한 조직은 아니지만, Vertus의 성과는 지금까지 가치가 입증된 접근 방식의 유용한 지표 역할을 합니다. 이미 알고 있는 정보와 비교하여 새로운 정보를 확인하고 사용자가 모르는 내용을 알려주는 AI 시스템을 구축하는 것은 AI 환각을 완화하기 위한 중요한 첫 번째 단계이지만 이러한 시스템이 조만간 일반화될지는 두고 볼 일입니다.
아직 해야 할 일
2022년 ChatGPT가 도입되면서 챗봇이 대중화된 이후 몇 년이 지나도 AI의 실제적, 이론적 활용 범위는 크게 확대되었습니다. 이러한 급속한 확장은 많은 기업이 비용을 절감하여 수익을 향상시키는 데 도움이 되었지만, 짧은 기간에 걸친 이러한 상당한 성장은 그에 따른 결과를 가져왔습니다.
AI 환각은 여전히 심각한 문제로 남아 있으며 AI가 의학, 금융, 교육 및 기타 여러 필수 산업에 점점 더 깊이 뿌리내리게 되면서 진실성을 희생하면서 빠르고 확실한 답변을 제공하려는 경향을 해결해야 할 필요성이 더욱 중요해질 것입니다.
단 몇 분만에 방대한 양의 정보를 수집, 구성 및 분석하는 AI의 능력은 향후 몇 년 동안 조직에 중요한 역할을 할 수 있지만 사람들이 현재 결함이 있는 기반을 확장하기 전에 AI의 신뢰성을 향상시키려는 노력으로 추가적인 진전을 완화해야 합니다.
이 기사에 제공된 정보는 일반적인 정보 제공 및 교육 목적으로만 제공됩니다. 이는 법적, 재정적, 의료적, 전문적 조언을 위한 것이 아닙니다. 독자들은 이 기사의 내용에만 의존해서는 안 되며, 자신의 특정 상황에 맞는 전문적인 조언을 구하는 것이 좋습니다. 우리는 제시된 정보의 사용 또는 의존으로 인해 직간접적으로 발생하는 손실이나 손해에 대해 책임을 지지 않습니다.
디지털 트렌드는 외부 기여자와 협력합니다. 모든 기고자 콘텐츠는 Digital Trends 편집진이 검토합니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요