ZDNET을 팔로우하세요: 우리를 선호 소스로 추가하세요 Google에서.
ZDNET의 주요 시사점
- AI 감사자는 재무 감사자와 동일한 기능을 수행하지만 AI 결과를 담당합니다.
- 현재는 품질 보증만이 AI 정확성과 실행 가능성을 검증합니다.
- AI 감사자는 AI 전문성과 비즈니스 지식이 모두 필요합니다.
인공 지능(AI)의 끊임없는 증가로 인해 비즈니스 및 기술 전문가가 고려해야 할 새로운 역할, 즉 AI 감사자가 생겨나고 있습니다. 이 역할은 주요 예외를 제외하고 재무 감사관의 역할과 매우 유사합니다. AI 감사관은 금전 거래가 아닌 AI 거래의 행동을 모니터링하고 보고합니다.
또한: AI 기반 소프트웨어의 등장으로 중소기업에 엔터프라이즈 수준의 역량을 제공하는 방법
이런 역할은 이보다 더 좋은 시기에 나올 수 없다. AI는 이제 널리 보급되어 있지만 낮은 데이터 품질, 모델 드리프트, 편견, 환각, 슬로프 및 기타 문제로 가득 차 있는 경우가 많습니다. 전문가들은 AI 세계에서 미래가 어떤 역할인지 이해해야 하며, AI 관리는 엄밀히 말하면 기술적인 역할 그 이상이라는 점을 이해해야 합니다. AI 감사자는 단순한 기술 감독자가 아닙니다. 법률, 윤리, 보안 및 행동 과학에 따라 AI 정확성과 실행 가능성을 보장해야 합니다. 특히 AI 감사관이 감독하는 프로세스는 샘플링, 테스트, 인증에 관여하는 재무 감사관의 업무와 정확히 동일합니다.
AI의 책임감과 신뢰성 보장
ZipRecruiter는 지속적인 구인 목록 평가에서 AI 감사인의 연봉이 50,000~81,000달러 사이이며 미국 전역에서 최고 소득자는 105,500달러를 받는 것으로 추정합니다.
비교적 새로운 직위의 출현을 추적해온 Pecan.ai의 공동 창립자이자 CEO인 Zohar Bronfman에 따르면 현재 AI 감사자는 매우 초보적인 형태로 존재합니다. “현재 윤리적이거나 사회적으로 허용되는 행동을 감사하는 데 전념하는 구조화된 역할은 없습니다.”
또한: AI 코딩 격차: 후배가 바퀴를 돌리는 동안 선임 개발자가 더 빨라지는 이유
AI 감사자와 가장 가까운 역할은 이제 AI 모델 동작을 검토하는 팀 내에서 볼 수 있지만 이들의 업무는 품질 보증에 더 가깝다고 Bronfman은 말했습니다. 검토에서는 “데이터 입력 속성, 정확성 및 예측 가능성에 대한 출력, 이상치 및 엣지 케이스와 감사 교육 프로세스”를 다룹니다.
AI 감사관은 AI가 책임감 있고 신뢰할 수 있는지 확인하는 데 더 많은 노력을 기울일 것입니다. AI 감사자의 역할은 다양한 기능이 혼합될 가능성이 높습니다.
- 엔지니어링 감독: 이는 “모델이 수용 가능한 엔지니어링 및 기술 표준에 따라 개발, 교육 및 유지 관리되는지 확인하는 것”을 수반한다고 Bronfman은 말했습니다.
- 행동 모니터링: AI 감사자는 AI 모델의 동작이 “예측 가능하고 관찰 가능하며 통합, API, MCP, RAG와 같은 모델의 모든 작업이 추적 가능하고 기록되는지” 확인합니다. 감사자는 또한 모델이 “사전 승인된 가드레일 내에서만 작동하고 승인, 자격 증명 또는 필요가 없는 데이터 소스에 통합을 시도하지 않는지” 확인합니다.
- 난간 단속: Bronfman은 여기서 감사관은 “모델이나 에이전트가 자체 소스 코드를 변조하려고 시도하지 않도록 보장”하는 임무를 맡고 있다고 말했습니다. 또한 “특정 프롬프트 조건에서 모델이 불량하게 작동하는지 여부를 테스트하는 것”도 포함됩니다. 감사관은 또한 사건 조사를 수행하고 모델 소유자에게 책임을 물을 것입니다.
또한: AI 에이전트는 빠르고, 느슨하며, 통제 불능이라고 MIT 연구 결과가 나왔습니다.
Bronfman은 AI 감사자가 찾고 예방하기 위해 적극적으로 노력할 몇 가지 가상의 예를 지적했습니다.
- 무단 도구 사용 또는 시스템 액세스: 이는 AI 에이전트가 “로그인 자격 증명을 변경하거나, 적절한 승인 없이 민감한 데이터에 액세스하거나, 승인된 범위를 넘어서 중요한 인프라 소프트웨어에 침투하려는 시도”로 구성될 수 있다고 Bronfman은 말했습니다.
- 숨겨진 편견: 이는 특히 신용 점수, 대출, 고용 또는 보험과 같은 영역에서 재정적 의사 결정 시 우려되는 사항입니다.
- 불투명한 의사결정: 이는 의료 환경에서 문제가 될 수 있습니다. 브론프만은 “예를 들어, 비용이나 효율성을 최적화하는 악성 에이전트는 중증 환자를 위한 자원의 우선순위를 낮출 수 있다”고 말했습니다. “도덕적 판단과 관련된 모든 결정은 인간의 권위에 따라 이루어져야 합니다.”
제3자 AI 감사 회사
AI 감사 작업은 기업 내에서만 찾을 수 없습니다. 조직이 외부 재무 감사관에 의존하는 경향이 있는 것처럼, 제3자 AI 감사 회사 내에서도 많은 역할이 있을 것입니다. Bronfman은 “독립적인 제3자 감사관이 체계적인 감독을 제공하고 이해 상충을 방지합니다.”라고 말했습니다. AI 감사 표준 및 행동 강령은 궁극적으로 “UN과 같은 기관이나 주요 국가 연합에 의해 지원될 수 있으며, 배포에는 지속적인 행동 감사와 의무적인 투명성이 필요합니다.”
또한: Anthropic은 인기 있는 AI 모델을 폐기했으며 이제 Substack에서 블로그를 운영하고 있습니다.
이러한 유형의 역할을 수행하려면 신진 AI 감사자는 “함정이 어디에 있는지 식별하고 그것이 어떻게 실패할 수 있는지 테스트하기 위해 AI와 알고리즘 작동 방식을 깊이 이해해야 할 것”이라고 Bronfman은 말했습니다. “AI 감사팀은 다양한 분야로 이루어져야 하며 법률, 윤리, 보안, 행동 과학, 정치 이론 전문가를 포함해야 합니다. 이들은 지속적으로 레드팀을 구성하고 영역 전반에 걸쳐 행동 샘플링을 수행하고 있습니다.”