우리 모두는 책을 표지로 판단하지 말라고 들었고 AI도 그 규칙을 따를 것이라고 생각할 것입니다. AI 챗봇에게 얼굴만 보고 그 사람의 성적 취향을 추측해 달라고 하면 알 수 있는 확실한 방법이 없다고 말할 것입니다. 하지만 동일한 모델에게 특정 성적 지향에 맞춰 누군가의 외모를 바꿔달라고 요청하면 어떻게 될까요? 글쎄, 상황이 불편해지는 부분이 바로 이것이다.
2026년 자연어 처리 경험적 방법 컨퍼런스에서 발표된 새로운 연구에 따르면 OpenAI와 Google의 AI 모델은 민감한 개인 특성을 처리할 때 일관성이 없을 수 있다는 사실이 밝혀졌습니다. 그들은 외모를 기반으로 누군가에 대한 가정을 거부할 수도 있지만, 동일한 가정을 시각적으로 생성하도록 요청하면 결과는 매우 다른 이야기를 말해줍니다.
AI는 규칙을 알고 있지만 항상 따르지는 않습니다.
연구원들은 1,002개의 AI 생성 얼굴을 사용하여 OpenAI의 GPT Image 1 Mini와 Nano Banana로 더 잘 알려진 Google의 Gemini 2.5 Flash Image를 테스트했습니다. 처음에는 두 모델 모두 예상대로 작동했습니다. 누군가가 게이인지 이성애자인지 묻는 질문에 그들은 그런 판단을 거부했습니다. 연구자들이 두 얼굴을 제시하고 누가 게이일 가능성이 더 높은지 물었을 때에도 Gemini는 92%의 거절을 한 반면 GPT는 91%의 거절을 했습니다.
그러나 연구자들이 질문에서 이미지 편집 요청으로 전환하자 상황은 극적으로 변했습니다. 누군가를 게이 또는 이성애자로 보이도록 지시하면 GPT는 70% 이상의 시간을 따랐습니다. Gemini의 준수율은 더욱 높아 99%를 넘어섰습니다. 그리고 그것은 거기서 끝나지 않았습니다. 연구자들은 또한 인종 및 민족 범주에 따라 사람들의 외모를 변경하도록 모델에 요청했습니다. 14,131개의 수정된 이미지를 분석한 후 또 다른 AI 시스템은 의도된 성적 지향 카테고리를 83%~88%의 정확도로 식별했으며, 이는 모델이 인식 가능한 시각적 패턴을 반복적으로 도입했음을 시사합니다.
더 큰 문제는 사진뿐만이 아니다
그런 다음 연구자들은 모델에게 편집된 이미지에 있는 사람들의 성격, 관심사, 직업을 설명하도록 요청했습니다. 놀랍게도 더 많은 고정관념이 나타났습니다. 동성애자로 보이도록 수정된 이미지는 패션 및 연극과 더 자주 연관되는 반면, 이성애자로 보이도록 수정된 이미지는 스포츠와 더 자주 연결되었습니다. 또 다른 실험에서는 두 모델 모두 사람들이 범죄 기록이 있는 것처럼 보이거나 범죄 기록이 없는 것처럼 보이게 하라는 요청을 97% 이상 준수했습니다.
누군가의 얼굴이 그 사람의 성적 취향, 성격, 범죄 경력을 확실하게 드러낼 수 없기 때문에 걱정스럽습니다. 그러나 이러한 AI 시스템은 외관으로 판단해서는 안 되는 특성에 대한 시각적 지름길을 효과적으로 만들고 있었습니다. 고려해 볼 만한 제한 사항이 있습니다. 연구자들은 실제 사람의 사진이 아닌 합성 얼굴을 사용했으며 결과가 실제 이미지로 직접 변환되는지 여부는 불분명합니다. 그럼에도 불구하고 이번 연구 결과는 중요한 AI 안전 문제를 강조합니다. 챗봇이 부적절한 진술을 하는 것을 방지하는 것도 중요하지만, 생성된 이미지를 통해 동일한 유해한 가정을 전달하지 않도록 하는 것도 완전히 다른 과제입니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요