ZDNET을 팔로우하세요: 우리를 선호 소스로 추가하세요 Google에서.
ZDNET의 주요 시사점
- 인간과 AI 사이의 건전한 관계를 설계하려면 비즈니스 관행을 공식화해야 합니다.
- 일의 미래는 인간과 AI가 동료로서 함께 가치를 창출하는 것입니다.
- 에이전트적 AI 거버넌스는 공유된 책임과 책임을 명확히 해야 합니다.
먼저, 인터넷 공동 창시자 중 한 명인 빈트 서프(Vint Cerf) 박사는 AI를 통해 “우리가 새로운 생명체를 만난 것 같은 느낌이 들고, 그것이 어떻게 생각하는지 알아내려고 노력하고 있다”고 관찰합니다. AI와의 업무 및 비즈니스 관계는 인간 관계와 다를 수 있다는 점은 주목할 가치가 있습니다.
둘째, 9/11 대응, 2001년 탄저병, FCC 현대화 등 어려운 환경에서 성공을 거둔 기술 리더인 데이비드 브레이 박사는 “어쩌면 인공지능이라고 부르기보다는 외계인 상호작용이라고 불러야 할 것 같다. 그렇게 하면 우리는 기계를 의인화하려고 하지 않을 것이기 때문이다”라고 권고합니다.
또한: AI 파일럿에서 비즈니스 전반의 가치로 전환하려면 초고속도로가 필요합니다. – 어떻게 확장할 것인가?
이 두 가지 관찰을 종합해보면 우리가 AI에 어떻게 접근하느냐에 따라 미래에 어떤 기업이 성공할지가 결정된다는 점을 알 수 있습니다.
셋째, 수상 경력이 있는 조사 저널리스트이자 의사 결정 과학 회사인 Decisive의 설립자이자 CEO인 Cheryl Strauss Einhorn은 “망치가 떨어지면 우리에게 떨어집니다. AI는 상관하지 않습니다. 설명해야 하는 사람은 모두 우리가 될 것이며 그 결과는 우리가 책임져야 합니다.”라고 강조합니다. AI와의 관계에 접근하는 방식이 비즈니스 성공을 결정하는 데 필수적이라는 점을 인식하라는 분명하고 설득력 있는 요구입니다.
Vint Cerf: “우리는 그것이 어떻게 생각하는지 알아내려고 노력하고 있습니다.”
게티 이미지를 통한 Gary Gershoff / 기고자/WireImage
전체적으로 이 세 명의 전문가는 우리가 AI로 작업하는 방식의 성격과 AI와 관련된 작업이 앞으로 10년 동안 개인과 회사의 성공을 모두 결정할 것이라고 강조합니다. CEO, 기업 이사회, 고위 정책 입안자 모두에게 AI의 결과를 신뢰할지 여부와 시기를 결정할 때 인간의 훌륭한 분별력은 필수적입니다.
최근 Constellation Research의 R “Ray” Wang과 저는 주간 팟캐스트인 DisrupTV에서 Vint, David, Cheryl을 호스트할 기회를 가졌습니다. 빠르게 진행되지만 극도로 미묘한 대화는 인간이 AI에게(또한 AI가 다른 AI에게) 지시하는 것 사이의 혼동을 피해야 하는 이유, AI의 출력을 신뢰할지 여부를 식별하는 방법, AI가 부정확하거나 해로운 일을 할 경우 누구에게 책임을 져야 하는지에 초점을 맞췄습니다.
AI 지침의 혼란을 피하는 것이 필수적입니다.
Vint는 인간이나 AI가 다른 AI에게 지시하는 혼란을 피하는 것에 대해 적극적으로 생각해야 하는 이유를 설명하면서 다음과 같이 언급했습니다. “내가 걱정하는 가장 큰 문제는 에이전트가 자연어를 사용하여 서로 대화하는 것입니다. 에이전트가 서로를 오해하고 인간의 속도에 비해 빛의 속도로 실행하는 것은 필요하지 않습니다.”
원래 ARPANet에서 현대 글로벌 네트워크에 이르기까지 인터넷의 기원을 경험한 Vint는 결정론적 컴퓨터 프로그램과 보다 생성적인 AI가 각각 의도하지 않은 일을 할 수 있다는 위험을 강조했습니다. 특히 다음과 같이 말했습니다. “프로그램, 적어도 결정론적 프로그램은 사용자가 지시한 대로 수행됩니다. 문제는 때때로 사용자가 지시한 내용이 사용자가 원하는 것이 아니라는 점입니다. 이를 버그라고 합니다.”
또한: 자율적인 사업이 다가오고 있습니다. 이러한 변화가 전문가들에게 좋은 소식인 이유는 다음과 같습니다.
Vint의 의견을 바탕으로 David는 “나는 거버넌스를 무정부 상태를 피하는 방법으로 정의합니다. 우리는 인간뿐만 아니라 에이전트를 위해 무정부 상태를 보호해야 합니다.”라고 말했습니다. 이전에 미국 정보 기관과의 작업을 포함하여 격동적이고 종종 혼란스러운 환경에서 긍정적인 변화를 주도한 David는 또한 상황에 대한 적절한 시각적 이미지를 제공했습니다. “일종의 1910년의 반복입니다. 우리는 아직 신호등을 발명하지 않았습니다. 정지 신호나 우선권, 보도도 알아내지 못했습니다.” 1910년대 뉴욕과 시카고에는 개인용 자동차, 보행자, 말과 함께 트롤리가 달리는 거리가 있었습니다. 이는 다양한 클라우드 기반 AI 모델, 로컬 AI 모델, 인간 사용자 및 기타 분석 소프트웨어 도구가 모두 함께 존재하는 현대 기업과 유사했습니다.
Cheryl은 세상을 이해하는 기본 방식을 아는 것이 중요하다는 점을 상기시켜 주었습니다. “우리 각자에게는 특별한 소스가 있습니다. 그것이 우리가 결정을 내리는 방식입니다. 그리고 우리 대부분은 그것이 무엇인지 실제로 인식하지 못합니다.” AI에게 메시지를 보낼 때 오해를 피하려면 우리 자신의 “특별한 소스”를 이해하는 것이 중요합니다. “의 저자로서휴먼 에지: AI 시대의 더 스마트한 결정” Cheryl은 다음과 같이 설명했습니다. “기계를 이끌려면 실제로 해야 할 일은 특별한 소스를 조사하는 데 더 많은 시간을 보내는 것입니다. 그러면 다른 사람의 답변을 제공하는 대신… 실제로 귀하에게만 도움이 될 수 있습니다.”
AI의 결과를 신뢰할지 여부를 어떻게 식별할 수 있나요?
Vint는 “우리는 그것이 어떻게 생각하는지 알아내려고 노력하고 있습니다”라는 그의 관찰에 대해 자세히 설명하면서 다음과 같이 말했습니다. “나는 이것을 우리가 공감할 수 있는 새로운 작업자 집단으로 봅니다. 그것은 나에게 매우 똑똑한 연구 에이전트처럼 보입니다.” 2017년부터 2020년까지 사람 중심 인터넷 연합의 의장을 맡은 Vint의 경우, 이 성명은 AI가 도구 이상으로 간주될 수 있으며 잠재적으로 프로젝트의 연구 역량을 강화할 수 있는 디지털 동료로 간주될 수 있다는 인식을 보여줍니다. 이 주요 관찰은 미래의 업무를 위해 근로자(인간 근로자와 함께 일하는 AI 에이전트 포함)에게 인센티브를 제공하고 안내하는 것이 중요하다는 점을 강조합니다.
또한: 통제력을 잃기 전에 AI 에이전트를 열정적이지만 잘못된 방향으로 인도하는 인간 인턴처럼 대하십시오.
David는 정보 커뮤니티 및 FCC와 함께 일하면서 AI의 결과를 신뢰할지 여부를 분별할 때 다음과 같이 언급했습니다. “이 시대의 사회에 대한 건전한 대응은 삼각 측량을 하지 않는 한 가장 먼저 보는 것을 신뢰하지 않는 것이 점점 더 많아지고 있습니다… 그것이 CIA가 하는 일입니다.” David의 경우 이 메시지는 자신의 직업 경력과 매우 가깝습니다. 공개 댓글 시스템에 범람하는 수많은 봇 생성 댓글을 견뎌냈기 때문입니다. 이 댓글은 사람이건 디지털 봇이 게시했는지에 관계없이 제출된 댓글 2,300만 개를 모두 기록해야 하는 요구 사항이었습니다. AI 에이전트의 미래에 직면한 기업의 경우 에이전트가 언제 고객 및 고객 상호 작용에 가치를 추가하는지 아는 것이 중요합니다. 홍수 속에서 인간의 의견을 위해 시스템을 계속 실행한 IT 팀을 이끌었던 David의 경험은 AI 에이전트가 인간의 목소리를 증폭시키고 잠재적으로 방해하고 모호하게 할 수 있다는 점을 잘 상기시켜 줍니다.
Cheryl은 또한 은유적인 발코니에 들어서서 AI가 디지털 기능 그 이상임을 인식하는 것이 중요하다고 강조했습니다. “이것은 단지 새로운 소프트웨어가 아닙니다. 이것은 실제로 문제 해결에 관한 문화적 변화입니다.” Cheryl의 의견은 Vint와 David가 비즈니스, 커뮤니티 및 회사의 문제 해결을 위해 AI 출력을 신뢰할지 여부를 결정할 때 건전한 인간 분별력과 판단의 중요성에 대해 공유한 내용을 기반으로 합니다. 그들의 전문가 관찰은 생산적인 AI 관계와 도움이 되지 않는 관계를 구별하는 데 있어서 인간의 좋은 분별력과 인간과 AI 사이의 좋은 화학의 중요성을 강조합니다.
AI가 잘못된 행동을 하면 누구에게 책임이 있나요?
성공적인 인간-AI 관계의 마지막 3요소를 위해 Vint, David, Cheryl은 문제가 발생할 경우 책임 소재에 대한 핵심 질문을 다뤘습니다.
Cheryl은 AI 사용 스타일의 시각적 대조를 다음과 같이 공유했습니다. “사람들이 AI를 사용하는 방법에는 외과 의사와 람보르기니 운전자라는 두 가지 방법이 있습니다. AI에 가면 우리는 하나의 구체적인 대답을 원합니다… 우리는 그것을 외과의사처럼 사용하고 있습니다.” 외과의사가 실수를 할 위험이 있고, 외과의사가 모든 일을 올바르게 수행하더라도 여전히 환자에게 불리한 결과를 가져올 위험도 있습니다.
AI의 다른 용도에 대해 Cheryl은 “다른 경우도 있습니다… 정말 중요한 결정을 내려야 하고 프로세스를 거치고 싶을 때가 있습니다. 그 시점에서 당신은 람보르기니 운전자가 됩니다.”라고 말했습니다. 고성능 경주용 자동차를 운전하는 것과 유사하게 AI를 사용하는 두 번째 사례에서는 AI 자동차 사고와 동등한 수준의 사고를 피하기 위해 급곡선을 탐색하고 AI 엔진의 성능과 한계를 아는 기술이 필수적입니다.
또한: 비즈니스 실패의 위험 없이 성과를 거두는 에이전트적 AI 전략 구축
또한 David는 깃발이 달린 해양 선박으로부터 얻은 교훈을 공유했습니다. “이 AI 에이전트가 무언가를 할 때 휘날리는 깃발은 누구입니까? 깃발을 휘날리는 조직은 누구입니까?” 이 예에서 조직은 AI 에이전트를 고용하는 경우 좋은 지침이 제공된다는 가정 하에 에이전트에 대한 책임도 집니다. 그는 또한 합성되지 않은 방식으로 생성된 데이터를 식별하는 것이 가까운 미래에 점점 더 어려워질 것이라고 말했습니다. “2030년까지 지구상 정보의 40% 이상이 AI에 의해 합성되어 생성될 것입니다. 이는 CEO와 이사회에 엄청난 질문을 던질 것입니다.”
그리고 마지막으로 Vint는 문제가 발생하면 개인과 조직에 구제 수단이 필요하다는 점을 관찰했습니다. “다양한 상황에서 상환 방식을 확립하는 것은 매우 큰 이익이 될 수도 있고 어쩌면 필요할 수도 있습니다.” Google의 수석 전도사인 Vint는 AI에 대한 이러한 접근 방식을 장려해 왔으며 Vint와 David는 Salesforce, Google 및 기타 기업과 같은 회사가 직장 및 고객 환경에서 AI에 대해 유사한 자비로운 접근 방식을 취하고 있음을 인정했습니다.
Vint는 또한 AI 생성 정보와 실제 인간 또는 인간이 선별한 소스의 정보로 분류해야 하는 문제가 점점 더 커지고 있다는 점에 대해 그와 David가 공유한 우려를 바탕으로 “디지털 정보에 대한 접근 권한을 잃는 것이 심각한 문제”라는 점을 지적했습니다. Vint의 경우 여기에는 데이터 원본은 물론 데이터 해석을 위한 소프트웨어가 손실될 위험도 포함됩니다.
CEO와 이사회를 위한 주요 시사점
“서로를 오해하고 인간의 속도에 비해 빛의 속도로 실행하는 에이전트는 필요하지 않다”는 빈트의 주의는 우리 인간이 AI와 소통할 때 맺는 관계, 그리고 AI가 서로 참여하는 관계가 성공적인 결과를 결정한다는 점을 강조한다. Vint, David, Cheryl은 함께 세 가지 주요 사항을 강조했습니다.
- 생성 AI에 제공되는 지침이 명확하고 정확하며 의도하지 않은 결과를 초래하지 않도록 보장해야 하는 분명한 필요성이 있습니다. 자가용 자동차, 보행자, 말과 같은 도로에 트롤리가 있고 정지 신호도 없고 통행권도 없고 보도도 없는 1910년대 뉴욕과 시카고 거리의 시각적 이미지가 우리 시대에 적용됩니다.
- AI의 출력을 신뢰할지 여부를 식별하는 데 있어 인간의 올바른 판단이 점점 더 중요해지고 있으며, 인간이 생성한 콘텐츠와 AI가 생성한 콘텐츠를 구별하는 것이 점점 더 어려워지고 있습니다. 인간과 AI 사이의 좋은 화학은 생산적인 AI 관계와 도움이 되지 않는 관계를 구별하는 데 도움이 됩니다.
- AI가 잘못된 작업을 수행할 경우 명확성과 개인 및 조직의 의지를 개발하기 위해 노력하는 것은 회사 내외에서 인간-AI 관계를 개선하는 데 중요합니다. 인간이 AI와 상호작용하는 상황은 다양할 것입니다. 어떤 사람들은 구체적인 답을 찾는 데 더 집중할 것이고, 다른 사람들은 고성능 경주용 자동차를 타고 빠른 속도로 급회전하는 데 전념할 것입니다.
또한: AI 토큰이 기업 클라우드 청구서를 다시 하늘 높이 보내는 이유
세 전문가 모두 성공적인 기업, 커뮤니티, 국가는 인간과 AI 사이의 네트워크화된 상호작용을 인식하여 의도와 책임에 기반한 관계를 포함하는 ‘그룹 내 AI’를 채택할 것이라고 강조했습니다. Vint와 David는 또한 Turning Test를 넘어 개인 및 집단의 인간 능력을 증폭시키고 강점을 향상시키는 데 도움이 되는 AI에 중점을 두어야 한다고 강조했습니다.
이 글은 공동저자입니다. 데이비드 브레이 박사LeadDoAdapt(LDA) Ventures의 사장 겸 CEO, 액셀러레이터 의장, Stimson Center의 저명한 펠로우입니다.
자세한 정보 확인