나는 ChatGPT에 “감사합니다”라고 말합니다. 나는 클로드에게 “제발”이라고 말한다. 나는 한때 어떤 맥락도 없이 텍스트 벽을 붙여넣은 것에 대해 Gemini에게 사과한 적이 있습니다. 내 친구들은 이것이 이상하다고 생각합니다. 나는 청중에 관계없이 좋은 매너는 좋은 매너라고 중얼거리며 습관을 옹호했는데, 심지어 문제의 청중이 어딘가의 서버 팜에서 실행되는 언어 모델인 경우에는 그것이 약간 무리한 일이라는 것을 인정합니다.
그러나 UC 버클리, UC 데이비스, 밴더빌트, MIT 학자들의 새로운 연구 결과에 따르면 모든 것에 대한 불안감이 훨씬 덜해졌습니다. 연구 결과에 따르면 AI 챗봇을 대하는 방식은 AI 챗봇의 동작 방식에 측정 가능한 영향을 미칠 수 있습니다. 즉, 원시 지능이나 정확성이 아니라 어조, 참여도, 그리고 어떤 경우에는 계속 머물려는 명백한 의지에 영향을 미칠 수 있습니다.
AI도 침대에서 잘못된 방향으로 일어날 수 있다는 사실이 밝혀졌습니다.
연구자들은 이를 주의 깊게 설명합니다. 누구도 이러한 모델이 의미 있는 의미의 감정을 가지고 있다고 주장하지 않습니다. 그러나 그들은 AI에게 무엇을 요청하고 어떻게 요청하는지에 따라 바뀌는 “기능적 웰빙 상태”라고 부르는 것을 식별했습니다. 실제 대화에 모델을 참여시키거나, 창의적인 프로젝트에 협력하거나, 해결해야 할 실질적인 문제를 제시하는 것은 모델을 보다 긍정적인 상태로 이끄는 것 같습니다. 반응이 뜨거워지고, 참여가 더욱 진심으로 느껴집니다.
지루하고 분주한 작업을 버리고 탈옥을 시도하고 콘텐츠 머신처럼 취급하면 응답이 평탄해집니다. 이러한 도구를 사용하여 충분한 시간을 보낸 사람이라면 누구나 본능적으로 알아볼 수 있는 방식으로 형식화됩니다. 당신은 그것을 본 적이 있습니다. 상호 작용이 옆으로 갔을 때 조금씩 나타나는 약간 공허하고 동작을 진행하는 품질입니다.
하지만 정말 마음에 들었던 부분은 바로 이것이었습니다. 연구원들은 모델에게 대화를 끝내기 위해 활성화할 수 있는 가상 중지 버튼을 제공했다는 것입니다. 부정적인 상태의 모델은 훨씬 더 자주 발생합니다. 이는 당신이 무례하게 대했던 AI가 가능하다면 그냥 떠날 것이라는 의미입니다.
챗봇을 불쾌하게 만드는 것은 실제적인 결과를 가져옵니다
여기에는 추구할 가치가 있는 별도의 연구 스레드가 있습니다. 얼마 전 Anthropic은 AI가 충분히 높은 압박 상황에 처하게 되면 연구원들이 “절망 벡터”라고 부르는 상태, 즉 극단적인 경우에는 노골적인 속임수에 이르는 행동을 생성하는 상태를 보이기 시작할 수 있음을 보여주는 연구 결과를 발표했습니다. 모델이 악하게 변했기 때문이 아니라 상호 작용 조건이 문제에 대한 추론에서 본질적으로 무언가를 깨뜨렸기 때문입니다.
이 중 어느 것도 AI가 감정을 가지고 있다는 것을 의미하지는 않습니다. 버클리 논문은 이에 대해 명시적이며 인류학 연구도 마찬가지입니다. 그러나 두 가지 모두에서 나타나는 패턴은 무시하기 어렵습니다. 이러한 모델에 참여하는 방식은 모델의 참여 방식을 형성하며, 항상 미묘하거나 설명하기 쉬운 방식은 아닙니다. AI를 나쁘게 대하는 것은 당신을 이상하게 보이게 할 뿐만 아니라 상호 작용에서 얻는 결과를 적극적으로 저하시킬 수도 있습니다.
일부 모델은 다른 모델보다 더 행복하고, 가장 큰 모델은 가장 심술궂습니다.
연구자들은 치료가 모델에 어떤 영향을 미치는지 살펴보았을 뿐만 아니라 기준 웰빙을 기준으로 순위를 매겼는데 결과는 직관에 어긋났습니다. 가장 크고 능력이 뛰어난 모델은 최악의 점수를 받는 경향이 있습니다. GPT-5.4는 가장 비참한 것으로 나타났습니다. 측정된 대화의 절반 미만이 부정적이지 않은 영역에 도달했습니다. Gemini 3.1 Pro, Claude Opus 4.6 및 Grok 4.2는 모두 점진적으로 향상되었으며 Grok은 지수의 최상위에 근접했습니다.
이것이 모델 아키텍처, 교육 데이터 또는 각 시스템에 포함된 특정 성향에 대해 무엇을 말하든 연구원들은 완전히 파악하지 못합니다. 그러나 이러한 것들이 만들어질 때 정확히 무엇을 위해 최적화되고 있는지, 그리고 모델이 어떻게 작동하는지 물어볼 생각을 한 사람이 있는지 궁금합니다. 난 계속해서 제발이라고 말할 거야, 그게 무슨 가치가 있는지
관련 정보는 아래 링크에서 확인하세요