Fairplay, une organisation à but non lucratif pour la sécurité des enfants, exhorte les donateurs à éviter d'acheter des jouets IA pour enfants pendant la période des fêtes, selon un rapport. consultatif publié jeudi.
Fairplay, ainsi que d'autres groupes de défense des enfants et des consommateurs, affirment que ces jouets – des jouets comme des peluches, des poupées, des figurines et des robots pour enfants intégrés à des chatbots et à d'autres technologies d'intelligence artificielle – peuvent être dangereux.
Conçus pour imiter les comportements humains et interagir avec les enfants comme s'ils étaient amis, les jouets offrent de la nouveauté à une époque où l'IA commence à s'infiltrer dans de nombreux domaines de la vie des gens.
L'avis de Fairplay, intitulé « Les jouets IA ne sont PAS sans danger pour les enfants », indique que ces jouets s'attaquent à la confiance des enfants et perturbent les relations humaines, entre autres préjudices. L'avis a été approuvé par plus de 150 experts et groupes, dont Sherry Turkle, professeur et auteur du MIT, Jenny Radesky, pédiatre et chercheuse, du Social Media Victims Law Center et de l'International Play Association USA.
« Il est ridicule de s'attendre à ce que de jeunes enfants évitent tout danger potentiel ici », a déclaré Rachel Franz, directrice du programme Fairplay, dans une déclaration à NPR. « Les jeunes enfants sont particulièrement sensibles aux dangers potentiels de ces jouets, comme envahir leur vie privée, collecter des données, engendrer une fausse confiance et de fausses amitiés et déplacer ce dont ils ont besoin pour s'épanouir, comme les interactions interhumaines et le temps nécessaire pour jouer avec tous leurs sens. Ceux-ci peuvent avoir des impacts à long et à court terme sur le développement. »
D’autres partagent leurs inquiétudes
L’avis fait suite à des avertissements récents similaires du Groupe de recherche d’intérêt public (PIRG). La 40e édition annuelle de l'organisation à but non lucratif de défense des droits des consommateurs « Trouble in Toyland » rapport affirme que certains jouets IA permettent de discuter en profondeur de sujets sexuellement explicites, disposent de peu de contrôles parentaux et collectent une montagne de données sur leurs propriétaires mineurs.
« Tous collectent potentiellement les voix de votre enfant. Ils collectent leurs noms, leurs dates de naissance. Toutes sortes d'informations – les goûts et les dégoûts de l'enfant, ses jouets préférés, ses amis préférés », a déclaré Teresa Murray, co-auteure du rapport PIRG et directrice de son programme de surveillance des consommateurs, dans un communiqué. entretien avec NPR. « Parce qu'ils sont connectés à Internet, donc tout est disponible, qui sait de quoi ces jouets pourraient commencer à parler à vos enfants avec leurs amis ou les parents de leurs amis ou votre quartier ? Je veux dire, c'est terrifiant. »
L'industrie du jouet et les acteurs de l'IA mettent en avant la sécurité et la confidentialité
L’industrie du jouet et les sociétés d’IA répondent à ces craintes en mettant l’accent sur la sécurité et la confidentialité.
OpenAI a déclaré avoir suspendu le fabricant de l'ours en peluche Kumma, alimenté par l'IA, plus tôt cette semaine, après PIRG a signalé le jouet partageait des conseils douteux avec des mineurs, comme fournir des détails sur la façon de trouver et d'allumer des allumettes. À la demande des chercheurs, il aborde également en profondeur les questions sexuelles. « Nous avons suspendu ce développeur (le fabricant de jouets FoloToy basé à Singapour) pour violation de nos politiques », a déclaré la porte-parole d'OpenAI, Gaby Raila, dans un e-mail adressé à NPR. « Nos politiques d'utilisation interdisent toute utilisation de nos services pour exploiter, mettre en danger ou sexualiser toute personne de moins de 18 ans. Ces règles s'appliquent à tous les développeurs utilisant notre API, et nous les surveillons et les appliquons pour garantir que nos services ne sont pas utilisés pour nuire à des mineurs. »
Les technologies de l'entreprise sont également intégrées dans d'autres jouets IA, notamment le robot IA Loona, et elle a conclu un accord partenariat stratégique avec Mattel plus tôt cette année « pour prendre en charge les produits et expériences basés sur l'IA et basés sur les marques de Mattel ». Aucun produit n'a encore été annoncé. Mais la société a déclaré que l'ensemble initial de produits et d'expériences Mattel se concentrerait sur les familles et les clients plus âgés, et non sur les utilisateurs de moins de 13 ans.
Fairplay a sélectionné plusieurs jouets IA pour démontrer les risques potentiels de la collecte de données et l'impact sur la compréhension de la confiance par l'enfant. Parmi eux se trouvent Mikoun joli robot en plastique accompagné de jeux éducatifs et du slogan « Construit pour être votre nouveau meilleur ami », Loona Petbotun petit robot compagnon en plastique qui se déplace sur roues et possède un écran et une oreille, et Gabboune peluche robot en forme de cube avec de grands yeux de style anime. Il n'a pas d'écran, mais peut être connecté au wifi et faire du chat vocal. NPR a contacté les fabricants de ces produits pour commentaires.
« La sécurité des enfants est notre priorité absolue », a déclaré Curio, la société derrière Gabbo et d'autres jouets d'IA, dans une déclaration à NPR. « Nos garde-corps sont méticuleusement conçus pour protéger les enfants, et nous encourageons les parents à surveiller les conversations, à suivre les informations et à choisir les commandes qui conviennent le mieux à leur famille sur l'application Curio : Interactive Toys. »
« La reconnaissance faciale sur Miko 3 est entièrement facultative et existe uniquement pour aider les familles à profiter d'une expérience plus personnalisée et interactive », a déclaré Ritvik Sharma, vice-président senior de Miko.ai, dans un e-mail à NPR. « Il est important de noter que toutes les données visuelles sont traitées localement sur l'appareil. Elles ne sont jamais envoyées vers le cloud ni partagées en externe. Pour offrir aux familles une plus grande confiance et un meilleur contrôle, chaque robot Miko comprend un obturateur de caméra physique qui permet aux parents de bloquer complètement la caméra quand ils le souhaitent. »
Dans un e-mail adressé à NPR, la Toy Association, qui représente les fabricants de jouets, a déclaré que les jouets vendus par des fabricants et des détaillants responsables doivent respecter plus de 100 normes et tests de sécurité fédéraux stricts, y compris la loi sur la protection de la vie privée en ligne des enfants, qui régit la vie privée et la sécurité des données des enfants en ligne et est supervisée par la Commission fédérale du commerce. « La Toy Association exhorte les parents et les tuteurs à acheter uniquement auprès de fabricants, de marques et de détaillants de jouets réputés qui accordent la priorité à la sécurité des enfants avant tout », indique le communiqué, ajoutant qu'il offre conseils de sécurité pour l'IA et autres produits connectés pour mieux éclairer les décisions d'achat des gens.
