미국 PIRG(공익 연구 그룹) 교육 기금의 새로운 보고서는 어린이 장난감에 인공 지능 챗봇의 사용이 증가하는 것에 대한 우려를 제기했으며 이러한 시스템 중 일부는 어린 사용자에게 적합하지 않을 수 있다고 경고했습니다. 보고서에 따르면, 몇몇 AI 기반 장난감에는 성인 중심 AI 서비스에서 사용되는 것과 유사한 응답을 생성할 수 있는 챗봇 기술이 통합되어 잠재적으로 어린이가 부적절하거나 오해의 소지가 있는 콘텐츠에 노출될 수 있습니다.
이 연구에서는 대화형 인형, 로봇, 교육용 장치 등 대화형 AI 기능을 통합한 다양한 장난감을 조사했습니다. 이러한 제품 중 상당수는 널리 사용되는 AI 챗봇에 사용되는 것과 유사한 대규모 언어 모델을 통해 어린이들이 자연어로 반응하는 장난감과 대화할 수 있도록 해줍니다.
기술이 장난감을 더욱 상호 작용적이고 교육적으로 만들 수 있지만 PIRG 연구자들은 일부 제품에 내장된 보호 장치가 어린 청중을 보호할 만큼 강력하지 않을 수 있다고 주장합니다. 특히 보고서는 기본 AI 시스템이 주로 어린이가 아닌 일반 사용자를 위해 설계된 플랫폼에서 유래하는 경우가 많다는 점을 강조합니다.
따라서 이러한 장난감에서 생성된 AI 응답에는 잠재적으로 어린이보다 성인에게 더 적합한 정보나 대화 주제가 포함될 수 있습니다. 보고서는 또한 AI가 부정확한 답변이나 예측할 수 없는 응답을 생성할 수 있어 장난감을 신뢰할 수 있는 정보 소스로 신뢰하는 경향이 있는 젊은 사용자에게 혼란을 줄 수 있다고 경고합니다.
장난감의 문서와 개인 정보 보호 정책을 검토한 연구원들은 일부 제품이 클라우드 기반 AI 시스템에 크게 의존한다는 사실도 발견했습니다.
이는 어린이의 음성 상호 작용이 외부 서버로 전송되어 데이터가 처리되고 응답을 생성하는 데 사용될 수 있음을 의미합니다. 개인 정보 보호 옹호론자들은 이것이 어린이의 데이터가 저장되고 사용되는 방식에 대한 추가적인 우려를 불러일으킨다고 말합니다. 일부 장난감은 대화 중에 오디오 녹음, 사용자 메시지 또는 기타 개인 정보를 수집할 수 있습니다. 이러한 시스템이 아동 개인 정보 보호를 위해 신중하게 설계되지 않으면 데이터가 잠재적으로 오용되거나 명확한 보호 장치 없이 저장될 수 있습니다.
보고서는 또한 많은 AI 기반 장난감이 서비스 약관이나 제품 문서에 면책 조항을 포함하고 있다고 지적합니다. 이러한 면책 조항에는 때때로 AI 응답이 항상 정확하거나 적절하지 않을 수 있으며, 장난감 자체는 어린이에게 직접 판매되는 반면 효과적으로 부모에게 책임이 전가될 수 있다고 명시되어 있습니다.
AI 기술이 젊은 층을 위해 특별히 설계된 품목을 포함하여 일상적인 소비자 제품에 점점 더 많이 적용되고 있기 때문에 이러한 상황은 중요합니다. 대화를 시뮬레이션하는 장난감은 아이들에게 강력한 영향을 미칠 수 있으며, 아이들은 종종 장난감을 친구나 학습 도구로 대합니다.
전문가들은 아이들이 신뢰할 수 있는 정보와 추측, 편향, 부정확한 AI 생성 응답을 구별하는 데 어려움을 겪을 수 있다고 말합니다. AI 시스템이 계속 발전함에 따라 이러한 기술을 어린이 안전에 맞게 조정하는 것이 점점 더 중요해질 것입니다.
이번 연구 결과는 또한 더 광범위한 규제 문제를 강조합니다.
많은 국가에는 미국의 COPPA(어린이 온라인 개인 정보 보호법)와 같이 어린이의 온라인 개인 정보를 보호하기 위해 고안된 법률이 있지만 이러한 규정은 생성 AI가 등장하기 전에 개발되었습니다.
옹호 단체들은 AI 시스템이 연결된 장치를 통해 어린이와 상호 작용하는 방식을 다루기 위해 규제 당국이 안전 표준과 지침을 업데이트해야 할 수도 있다고 주장합니다.
PIRG 보고서는 장난감 제조업체에 더 엄격한 콘텐츠 필터링, AI 사용에 대한 더 명확한 공개, 더 투명한 데이터 관행을 포함한 더 강력한 보호 장치를 구현할 것을 요구합니다. 또한 기업에서는 원래 성인용으로 제작된 모델을 용도 변경하기보다는 어린이용으로 특별히 AI 시스템을 설계할 것을 권장합니다.
연구원들은 앞으로 AI 기반 장난감이 혁신적이고 안전한 상태를 유지하려면 기술 회사, 규제 기관, 아동 안전 전문가 간의 협력이 필요할 것이라고 말합니다.
인공 지능이 일상 제품에 점점 더 통합되면서 대화형 기술의 이점과 잠재적인 위험으로부터 젊은 사용자를 보호해야 하는 책임 사이의 균형을 맞추는 것이 과제가 될 것입니다.