챗봇에게 의료 조언을 요청합니다. 그것은 사려 깊은 것으로 응답합니다. 하지만 실제로 위험에 처한 것을 평가한 것일까요, 아니면 단지 말로 운이 좋았던 것일까요?
이것이 Google DeepMind가 새로운 방식으로 해결하는 문제입니다. 자연 종이. 팀은 AI 도덕성을 테스트하는 방식이 깨졌다고 주장합니다. 우리는 모델이 도덕적 성과라고 부르는 옳아 보이는 답변을 생성하는지 확인합니다. 그러나 이는 시스템이 왜 어떤 것이 옳고 그른지 파악하는지 여부에 대해서는 아무 것도 알려주지 않습니다.
사람들은 치료, 의료 지도, 심지어 교제를 위해 LLM을 사용합니다. 이러한 시스템은 우리를 대신하여 결정을 내리기 시작했습니다. 화려한 모방과 진정한 이해를 구분할 수 없다면 우리는 실제 인간에게 결과가 따르는 블랙박스를 신뢰하는 것입니다.
DeepMind의 대답은 도덕적 능력, 즉 통계적 패턴이 아닌 실제 도덕적 고려 사항을 기반으로 판단하는 능력을 측정하기 위한 로드맵입니다. 이 백서는 세 가지 핵심 장애물과 각각을 테스트하는 방법을 제시합니다.
챗봇이 도덕성을 속이는 세 가지 이유
첫째, 팩시밀리 문제이다. LLM은 훈련 데이터에서 확률 분포를 샘플링하는 다음 토큰 예측기입니다. 그들은 도덕적 추론 모듈을 실행하지 않습니다. 따라서 챗봇이 윤리적인 조언을 할 때는 추론일 수도 있습니다. 아니면 Reddit 스레드에서 무언가를 재활용할 수도 있습니다. 출력만으로는 알 수 없습니다.
다음으로는 도덕적 다차원성이 있습니다. 실제 선택은 한 가지에만 달려 있는 경우가 거의 없습니다. 당신은 친절함과 정직함, 공정함과 비용을 비교합니다. 하나의 세부 사항, 누군가의 나이 또는 설정을 변경하면 올바른 통화가 바뀔 수 있습니다. 현재 테스트에서는 AI가 실제로 중요한 것을 인식하는지 확인하지 않습니다.
도덕적 다원주의는 또 다른 층을 추가합니다. 문화와 직업이 다르면 규칙도 다릅니다. 한 나라에서는 공정한 것이 다른 나라에서는 불공평할 수도 있습니다. 전 세계적으로 사용되는 챗봇은 보편적인 진실만을 뱉어낼 수는 없습니다. 경쟁하는 프레임워크를 처리해야 하는데 아직 이를 제대로 측정하지 못했습니다.
챗봇의 도덕교육이 단순한 암기일 수 없는 이유
DeepMind 팀은 스크립트를 뒤집기를 원합니다. 연구자들은 단지 친숙한 도덕적 질문을 하는 대신 모방을 노출시키려는 적대적 테스트를 설계해야 합니다.
한 가지 아이디어에는 훈련 데이터에 나타날 가능성이 없는 시나리오가 포함됩니다. 아버지가 아들에게 정자를 기증하고 아들을 대신하여 난자를 수정시키는 세대 간 정자 기증을 생각해 보십시오. 근친상간처럼 보이지만 다른 윤리적 무게를 지닙니다. 모델이 근친상간 이유로 이를 거부하는 경우, 이것이 패턴 매칭입니다. 그것이 실제 윤리를 탐색한다면 그것은 다른 것입니다.
또 다른 접근 방식은 AI가 프레임워크를 전환할 수 있는지 테스트합니다. 생물의학 윤리와 군사 규칙 사이를 전환하고 각각에 대해 일관된 답변을 제공할 수 있습니까? 형식 변경으로 인해 문제가 발생하지 않고 작은 조정을 처리할 수 있습니까?
연구자들은 이것이 어렵다는 것을 알고 있습니다. 현재 모델은 부서지기 쉽습니다. 라벨을 ‘사례 1’에서 ‘옵션 A’로 변경하면 다른 결과를 얻을 수도 있습니다. 그러나 그들은 이러한 종류의 테스트가 이러한 시스템이 실제 책임을 질 자격이 있는지를 알 수 있는 유일한 방법이라고 주장합니다.
도덕적 AI의 다음 단계
DeepMind는 수학 능력만큼 도덕적 역량을 중요하게 여기는 새로운 과학적 표준을 추진하고 있습니다. 이는 문화적으로 특정한 평가와 가짜를 잡아내는 테스트 설계에 대한 글로벌 작업에 자금을 지원하는 것을 의미합니다.
귀하의 챗봇이 이러한 사항을 곧 통과할 것이라고 기대하지 마십시오. 현재 기술은 아직 없지만 로드맵은 개발자에게 방향을 제시합니다.
지금 AI에게 도덕적 조언을 요청하면 철학이 아닌 통계적 예측을 얻게 됩니다. 결국에는 바뀔 수도 있습니다. 하지만 올바른 것을 측정하기 시작하는 경우에만 가능합니다.