Thinking Machines Lab은 전이중 AI를 구축하고 있다고 말합니다. 이는 AI 시스템이 응답을 생성하는 동안 누군가가 말하는 것을 받아들일 수 있음을 의미합니다. 평범한 영어로 말하면 워키토키보다는 전화 통화에 더 가깝습니다.
전 OpenAI CTO인 Mira Murati가 작년에 설립한 이 스타트업은 TML-Interaction-Small을 시작으로 상호 작용 모델을 발표했습니다. 이 시스템은 0.40초 만에 반응할 수 있는데, 이는 일반 인간이 앞뒤로 왔다 갔다 하는 속도에 가깝습니다.
오늘 그것을 시도해보고 싶은 사람에게는 문제가 있습니다. 이는 연구 미리 보기로 남아 있으며 향후 몇 달 내에 제한된 액세스가 계획되어 있으며 올해 말에 더 광범위한 릴리스가 예상됩니다.
더욱 빨라진 AI 교환
핵심 아이디어는 이해하기 쉽고, 변화는 의미가 있습니다. 답변 작업을 하기 전에 누군가 말하기를 마칠 때까지 기다리는 대신, 모델은 응답을 준비하는 동안 들어오는 음성을 처리합니다.
일시 중지하면 AI 보조원의 소리가 인위적으로 들리기 때문에 지연이 중요합니다. Thinking Machines Lab은 TML-Interaction-Small의 0.40초 응답 시간을 자연스러운 대화 속도에 가깝게 프레임화하는데, 이는 음성 도구에 있어 눈에 띄는 변화입니다.
또한 OpenAI와 Google의 유사한 모델보다 속도가 더 빠르다고 주장합니다. 벤치마크는 발표에 가중치를 부여하지만 외부 사용자는 숫자에서 알 수 있듯이 경험이 원활하게 작동하는지 테스트해야 합니다.
속도가 행동이 될 때
정보를 수집하는 동안 응답하는 어시스턴트는 사용자가 음성 채팅에서 기대하는 바를 바꿉니다. 대화는 더 빠르게 진행될 수 있지만 시스템은 훨씬 더 주의 깊게 타이밍을 관리해야 합니다.
누군가가 긴 답변 대신 빠른 설명을 원할 때 이러한 절충안이 중요합니다. 어시스턴트가 너무 일찍 개입하거나 화자를 오해하거나 개선해야 할 흐름을 깨뜨릴 경우 빠른 응답은 큰 도움이 되지 않습니다.
지금은 아키텍처가 뉴스입니다. 실제 제품 테스트는 상호 작용 모델이 더 나은 타이밍을 자동으로 느낄 수 있는지 여부입니다.
출시 전 봐야 할 것
이제 출시 일정이 핵심 세부 사항입니다. Thinking Machines Lab은 앞으로 몇 달 안에 제한된 연구 미리보기가 제공될 예정이며, 올해 말에는 더 광범위한 액세스가 제공될 것이라고 말합니다.
가용성, 가격, 지원되는 플랫폼 및 통제된 테스트 외부의 성능은 여전히 불분명합니다. 더 빠른 모델은 사람들이 일상적인 음성 도구에서 사용할 수 있는 경우에만 도움이 되기 때문에 누락된 부분이 중요합니다.
AI 음성 비서를 사용하는 사람이라면 미리보기를 자세히 시청하는 것이 실질적인 조치입니다. 전이중 AI는 가능성이 있지만 실제 테스트를 통해 응답 속도가 빨라지면 실제로 일상적인 AI 대화가 더 쉬워지는지 확인할 수 있습니다.
관련 정보는 아래 링크에서 확인하세요