최근 ChatGPT와 채팅을 하다가 고블린, 그렘린, 오우거 또는 트롤에 대한 이상하고 구체적인 언급이 삭제되는 것을 발견했다면 상상하지 못한 일입니다. OpenAI는 이제 ChatGPT가 이러한 이상한 습관을 갖게 된 이유와 이를 해결하는 방법을 설명했습니다.
어떻게 “괴상한” 버릇이 모든 사람의 문제가 되었는가
문제는 11월에 출시된 GPT-5.1부터 조용히 시작되었습니다. 출시 이후 ChatGPT 응답에서 ‘goblin’이라는 단어의 사용이 175% 증가한 반면, ‘gremlin’은 52% 증가했습니다. 범인은 AI 사운드를 장난스럽고 지적으로 호기심을 갖도록 설계된 “Nerdy”라고 불리는 ChatGPT의 선택적 성격 설정 중 하나로 밝혀졌습니다.
훈련 중에 OpenAI는 실수로 생물 기반 은유를 포함한 응답에 대해 모델에 비정상적으로 높은 보상을 주었고 습관은 빠르게 자리 잡았습니다.
단일 성격 설정으로 인해 어떻게 고블린 이야기가 그렇게 많이 나오나요?
여기가 흥미로워집니다. Nerdy 성격을 전혀 설정하지 않은 사용자조차도 채팅에서 고블린 관련 언급이 팝업되는 것을 보기 시작했습니다. AI 훈련은 하나의 설정에 포함되지 않기 때문이다. ChatGPT 모델이 해당 스타일에 대해 보상을 받은 후 해당 행동은 전반적으로 일반적인 반응으로 이어졌습니다.
OpenAI에 따르면 Nerdy 성격은 전체 ChatGPT 응답 중 2.5%에 불과하지만 전체 고블린 언급 중 66.7%를 차지했습니다.
그렇다면 OpenAI는 실제로 이 문제를 어떻게 해결하고 있을까요?
OpenAI는 지난 3월 ChatGPT-5.4를 통해 Nerdy 성격을 중단했으며 이로 인해 고블린 관련 언급이 급격히 감소했습니다. 또한 회사는 행동을 유도하는 보상 신호를 제거하고 훈련 데이터를 필터링하여 다른 마법 생물에 대한 참조를 줄였습니다.
하지만 코딩 도구인 Codex는 근본 원인이 파악되기 전에 이미 훈련을 시작했기 때문에 별도의 재정의 명령이 필요했습니다. 판타지 팬이라면 Codex에서 수동으로 고블린 모드를 잠금 해제할 수 있습니다.
OpenAI는 또한 검증된 사용자를 위해 이전에 놀렸던 성인 모드를 무기한 보류하는 것을 포함하여 다른 성격 관련 결정도 다루고 있습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요