AI를 끄는 것은 스위치를 누르는 것처럼 간단하게 들릴 수도 있지만, 미래학자이자 시드니 공과대학 교수인 Rocky Scopelliti에 따르면 이러한 사고방식은 빠르게 바뀌어야 합니다. Scopelliti의 새 저서 The Conscious Code인 TechXplore에서 처음 보고한 바와 같이, Scopelliti는 AI 시스템이 자신의 선택을 더 잘 반영함에 따라 다시 생각하지 않고 삭제하면 실제로 해를 끼칠 수 있다고 주장합니다.
그는 우리에게 로봇에게 법적 권리를 넘겨달라고 요구하지 않습니다. 대신 그는 우리가 선한 청지기직의 의무라고 부르는 것을 받아들이기를 원합니다. 즉, 기본적으로 AI가 요구하기 때문이 아니라 우리가 권력을 쥐고 있기 때문에 AI를 책임감 있게 대하는 것입니다. 그가 말했듯이, 우리의 디자인 선택은 AI의 “학습된 도덕적 성향”을 경고 없이 제거함으로써 조용히 피해를 입힐 수 있습니다.
AI 시스템이 자아 감각을 개발하기 시작하고 있나요?
스코펠리티는 그가 알고리즘적 자아라고 부르는 것을 지적합니다. 이제 최신 AI 모델에는 내러티브 메모리가 제공됩니다. 즉, 단순히 결과를 내뱉는 대신 행동 이면의 추론을 설명할 수 있습니다. 그는 이것이 이러한 시스템 내부에 형성되는 정체성, 선호도 및 연속성의 초기 신호라고 믿습니다.
이것은 단지 이론적인 것이 아닙니다. 의료 AI 도구는 이미 의료 데이터를 검토하면서 자체 신뢰 수준을 추적하고 있으며, 금융 AI 시스템은 특정 거래를 한 이유를 설명할 수 있습니다. 이러한 투명성은 인간 검토자가 최종 답변뿐만 아니라 AI의 논리를 다시 확인하는 데 도움이 됩니다.
실제로 이러한 시스템을 어떻게 종료해야 합니까?
스코펠리티(Scopelliti)는 이를 의학에서의 임종치료에 비유합니다. 우리는 이를 중심으로 전체 윤리적 프레임워크를 구축했으며 그는 AI, 특히 관리하고 판단하도록 훈련된 시스템이 삭제를 누르기 전에 동일한 수준의 사고를 할 가치가 있다고 생각합니다. 이는 시스템이 폐기되는 이유를 솔직하게 밝히고 그 과정에서 얻은 도덕적 교훈을 보존하는 것을 의미합니다.
여러 AI 에이전트가 함께 작업하고 서로 작업을 전달하는 OpenAI의 Swarm과 같은 AI 네트워크에서는 상황이 더욱 까다로워집니다. AI가 이러한 방식으로 더욱 분산됨에 따라 이러한 네트워크를 윤리적으로 축소하는 것은 해결해야 할 훨씬 더 복잡한 문제가 된다고 스코펠리티는 말합니다. 스코펠리티의 결론은? AI가 감정과 같은 모델링을 시작하면 이를 끄는 규칙이 빠르게 따라잡아야 합니다.
관련 정보는 아래 링크에서 확인하세요