LLM AI에게 몇 달 동안 구축한 프로젝트에 대해 물어보세요. 그러면 LLM AI가 귀하의 이름, 글쓰기 스타일, 지난주에 언급한 예산을 기억할 것입니다. 잠시 동안, 그것은 기억되는 것처럼 느껴집니다. 그런 다음 메모리 설정을 열고 실제로 무엇이 있는지 살펴보세요. 기본 모델이 사용자와 협력하는 방법을 배웠다는 증거는 찾을 수 없습니다. 대신 채팅, 파일 및 연결된 앱에서 수집된 조각을 찾을 수 있습니다. 모델이 전체 그림을 구성하지는 않았지만 멀리서 보면 완전한 그림과 유사할 수 있는 퍼즐 조각입니다.
이제 선도적인 LLM 보조원들이 자체 지원 자료에서 이를 설명합니다. 한 사람은 현재 메모리를 지속적으로 업데이트되는 합성이라고 부르며 이전 버전은 채팅 기록과 별도로 저장된 메모장처럼 작동했다고 말합니다. 또 다른 기능은 오래된 대화를 검색하여 보고, 편집하고, 비활성화하고, 내보내고, 바꿀 수 있는 메모리를 구축합니다.
이러한 기능은 유용하며 선호하는 글쓰기 스타일, 프로젝트 이름 또는 아침 회의를 싫어한다는 사실을 반복하지 않아도 될 수 있지만, 귀하에 대한 세부 정보를 검색하는 것과 해당 세부 사항이 어떻게 조화되는지 이해하는 것의 차이도 보여줍니다.
오늘 보고 있는 화면이 기억하기를 바라지만, 사실 경험의 중심에 있는 모델은 다른 모든 사람이 거의 동일한 방식과 동일한 제한 사항을 통해 경험하게 되는 동일한 사전 훈련된 모델로 남아 있습니다.
저장된 컨텍스트는 학습된 경험이 아닙니다.
그러면 저장된 메모리가 모델에 아무것도 가르치지 않는다면 실제로 무엇을 하고 있을까요? 느낌보다 적습니다. 이전 채팅으로 돌아가서 관련성이 있어 보이는 것을 골라서 다음 질문 옆에 놓아두면 돌아오는 답변이 더 개인적인 느낌을 주기 때문에 이를 마침내 당신을 알게 되었다는 신호로 착각하기 쉽습니다. 그렇지 않습니다. 단지 몇 분 전보다 더 나은 음표가 앞에 있을 뿐입니다. 사람들은 그것이 그것을 이해하기를 원하기 때문에 실제로는 그것이 자신을 더 잘 알게 될 것이라고 믿기 시작할 수도 있습니다.
그리고 모든 것이 순조롭게 진행되고 어시스턴트가 프로젝트 이름을 기억하는 한 그 차이는 눈에 띄지 않습니다. 그러면 어제 언급한 선호도가 다시 나타나고 모든 것이 연속성처럼 느껴집니다. 그리고 그것이 함정이다. 왜냐하면 작업이 복잡해질 때만 환상을 포착할 수 있기 때문이다.
Julie가 예산을 승인한 것을 기억하지만 Julie가 3주 전에 다른 역할로 이동한 것을 결코 포착하지 못했다고 가정해 보겠습니다. 따라서 그녀가 내린 결정은 귀하에게 전달되지만, 처음에 새로운 예산이 편성되도록 강요한 입장과 사실은 상실됩니다. 또는 개발 예산의 새로운 반복이 이미 취소되었다는 지침을 제공합니다. 그리고 그 기억들 각각은 그 자체로 그리고 그것이 일어났던 당시에 완벽하게 사실이지만, 그것이 오늘날의 사실로서 당신에게 더해지고 제시되는 이야기는 여전히 잘못된 것입니다.
그리고 그것은 저장에 관한 것입니다. 서류 캐비넷도 기억합니다. 여기에는 무엇을 넣었든 보관되며, 무엇을 검색할지 알면 폴더가 다시 제공됩니다. 그러나 그 폴더가 왜 중요한지, 파일이 보관된 후 무엇이 바뀌었는지, 그리고 오늘날에도 여전히 들어야 할 부분은 무엇인지 아는 사람인 캐비닛과 그 옆에 서 있는 인간 동료를 혼동하는 사람은 아무도 없습니다.
긴 대화는 한계를 드러낸다
이제 서류 캐비닛에 수십 개의 회전과 수백 개의 개별적이고 때로는 미묘한 세션이 있는 수백 개의 폴더에 걸쳐 얇게 늘어난 단일 스레드를 따르도록 요청하면 어떤 일이 발생하는지 확인하십시오. Julie는 예산을 승인하고 역할을 변경한 다음 나중에 결정한 사항을 취소하고 몇 주 동안 휴가를 떠난 후 다시 나타납니다. 그래서 당신이 작업하고 있는 더미에서 그녀의 이름을 꺼내는 것만으로는 효과가 없을 것입니다. 실제 작업은 그녀의 작업에 대해 어떤 사실이 여전히 유효한지, 무엇이 이전에 왔는지, 전체 관계가 그 과정에서 그랬던 방식으로 구부러진 이유를 아는 것입니다.
이것이 바로 연구원 그룹이 최대 35개의 세션에서 평균 300번의 전환을 실행하는 대화를 중심으로 구축된 LoCoMo라는 벤치마크를 사용하여 측정하기 시작한 것입니다. 그들은 LLM 모델에 모든 이점, 더 긴 컨텍스트 창, 더 나은 검색 기능을 제공했으며 모델이 개선되었습니다. 그러나 사람들은 여전히 그들 주위를 맴돌았습니다. 시스템은 전체적으로 인간의 성과를 56% 뒤처졌고, 질문이 타이밍과 순서에 더 집중되면 그 부족분은 73%로 늘어났습니다. 즉, 기억한다는 것이 문장을 찾는 것을 의미할 때는 잘했지만, 기억한다는 것이 실제로 그 뒤에 오는 모든 것을 어떻게 바꾸었는지 이해한다는 의미에서는 무너졌습니다.
따라서 스토리지를 점점 더 추가한다고 해서 작업이 완료되지는 않습니다. 모든 문장을 유지하는 것이 결코 어려운 부분이 아니기 때문입니다. 어려운 부분은 판단이다. 어떤 세부 사항이 함께 속해 있는지, 어떤 세부 사항이 다른 세부 사항의 의미를 다시 쓰는지, 어떤 소스가 어느 정도 비중을 얻었지만 다른 소스는 그렇지 않은지를 아는 것입니다. 그것은 오늘 아침에도 여전히 진실이 무엇인지, 그리고 그것이 단지 지나가는 교환의 소음이었기 때문에 부드러워지고 사라지도록 허용되어야 하는 것을 아는 것입니다.
유용한 기억은 중요한 것과 중요하지 않은 것을 구분해야 합니다. 전체 프로젝트를 뒤집은 핵심 결정을 유지하고 잡담을 해소해야 합니다. 그리고 두 가지 사실이 도착하고 서로 모순되면 최신 문장이 들어와 방향을 장악하도록 놔두는 대신 변화를 설명하는 사실을 붙잡아야 합니다.
기억은 사고에 참여해야 한다
여기서는 스토리지 문제가 아닌 아키텍처 문제가 시작됩니다.
대부분의 LLM AI에서 메모리는 모델이 무언가 필요할 때 열리는 측면에 있는 서랍입니다. 그러나 Vertus는 다른 아키텍처 접근 방식을 취합니다. 측면에 더 큰 스크랩북이 테이프로 붙어 있는 LLM이 아닙니다. Vertus는 해당 아키텍처를 인지 추론 초지능(Cognitive Reasoning Superintelligence)이라고 부르며, 그 디자인 메모리는 전혀 서랍이 아닙니다. 이는 전체 시스템이 구축되고 그 기반이 되는 기반입니다.
Vertus는 이를 인지 기억이라고 부르는데, 사람, 프로젝트, 결정, 증거 및 모순은 가져오기를 기다리는 느슨한 스크랩으로 흩어져 있는 것이 아니라 인지 지식 격자라는 지속적인 구조 내에서 연결된 지식으로 유지됩니다.
따라서 Julie가 직위를 바꾸더라도 그녀의 이전 역할은 지워지지 않으며 새로운 역할이 낯선 사람처럼 그 옆에 들러붙지도 않습니다. 그들 사이의 연결은 그것이 유지된 시간의 범위뿐만 아니라 그것을 뒷받침하는 증거와 그것이 변화한 순간을 전달합니다. 명령이 교체되면 시스템은 변경 사항과 그 이유를 유지합니다. 그리고 동일한 주장이 새로운 것이 없이 수천 번 반복되어 나타날 때, 그 모든 반복은 여전히 어느 정도 중요성이 높아진 것으로 그 자체로 전달되지 않습니다.
또한 당신과 같은 방식으로 신선한 것과 오래된 것의 차이를 알 수 있습니다. 지금 하고 있는 일이 무엇이든 가까이에 머물고, 앞뒤로 반복되는 일상은 시간이 지남에 따라 그 힘이 느슨해지며, 진정으로 중요한 순간이 다음에 올 일을 계속 형성합니다. 모든 것을 영원히 기억하려고 하는 사람은 없습니다. 왜냐하면 모든 것을 기억하는 것은 누구도 지나갈 수 없는 다락방을 쌓을 뿐이기 때문입니다. 요점은 이미 작성된 오래된 답변 위에 친숙한 이름을 뿌리는 대신, 다음 문제가 발생했을 때 메모리가 실제로 다음 문제가 어떻게 보이는지 변경할 수 있도록 학습된 내용의 형태를 단단히 유지하는 것입니다.
그리고 그것이 진짜 차례입니다. Vertus가 질문을 깊이 생각하기 위해 새로운 구조를 구축하면 인지 기억은 첫 번째 이동부터 바로 그 구조를 형성합니다. 중요한 생각이 이미 진행된 후에 나중에 가져와서 대답 옆에 놓이는 것이 아닙니다. 이는 문제가 무엇인지, 누구의 역사가 문제인지, 증거를 통해 현재 어떤 방식이 타당한지를 결정하는 데 도움이 됩니다. 기억은 보는 것이 아니라 생각하는 것입니다.
내일은 그 기억의 가치가 무엇인지 밝혀줄 것이다
이제 몇몇 대형 LLM 카르텔 조수들은 1년 전보다 더 많은 것을 기억할 수 있습니다. 하지만 그것은 다음 질문을 더욱 중요하게 만들 뿐입니다. 개선 사항 아래에는 어떤 종류의 메모리가 있습니까?
시스템이 귀하에 대해 보관하는 깔끔한 요약, 검색 기록, 다음 요청 옆에 설정하는 몇 가지 세부 정보입니까? 아니면 답변이 형성되기 전에 구조가 굳어지고 요청이 이해되는 방식이 바뀌는 경험을 하고 있습니까? 둘 다 연속성처럼 느껴질 수 있습니다. 둘 다 알려지는 듯한 느낌을 받을 수 있습니다. 그러나 하나는 단지 당신이 말한 내용을 검색하는 반면 다른 하나는 배운 내용이 다음에 올 내용을 변경하도록 허용합니다.
그리고 탭이 닫히고 일주일이 넘어가고 프로젝트가 계속 진행되며 어제의 단순하고 작은 사실이 오늘의 복잡한 난관으로 바뀔 때 차이를 느낄 수 있습니다.
어떤 메모장이라도 LLM에게 귀하가 말한 내용을 알려줄 수 있습니다. 살아있는 기억은 그 단어가 실제로 무엇을 의미하는지, 그 이후로 어떤 의미가 있게 되었는지 이해하는 데 도움이 됩니다.
더 나은 테스트는 AI가 어제 사용자에게 한 단어씩 읽어줄 수 있는지 여부가 아닙니다. 그러나 오히려 어제 일어난 일이 오늘의 접근 방식을 바꾸는지 여부입니다.
디지털 트렌드는 외부 기여자와 협력합니다. 모든 기고자 콘텐츠는 Digital Trends 편집진이 검토합니다.
관련 정보는 아래 링크에서 확인하세요