Google fait face à des appels à un moratoire sur l’IA dans les écoles après Gemini

Google fait face à des appels à un moratoire sur l’IA dans les écoles après Gemini

Une plainte déposée par Emma Doe accuse Google d’exploiter la position dominante qu’elle occupe dans les écoles depuis 2007 pour imposer l’intelligence artificielle aux enfants et s’approprier leurs données, sans les protéger de manière suffisante contre les risques les plus graves liés au comportement de son chatbot. Le texte porte sur la complaisance excessive de l’outil, qui tend à approuver l’utilisateur.

À Chicago, le CPS a signé un contrat avec Google en 2020, « bien avant le déploiement de Gemini », a constaté Creswell. Au cours des deux prolongations successives de ce contrat, aucune mise à jour n’a été introduite pour protéger la vie privée des élèves, alors même que l’intelligence artificielle progressait.

Une politique de confidentialité jugée insuffisante

Selon Creswell, il restait « totalement flou » dans les contrats de savoir comment le traitement des données des élèves par Google avait pu évoluer, au-delà des mises à jour de la politique de confidentialité de Google Workspace for Education.

Cette politique indique notamment que Google « reçoit les données clients via les Core Services et les traite selon les instructions de l’école (le client) ». Ces données comprennent tout ce qui est soumis, stocké, envoyé ou reçu via les Core Services par l’utilisateur ou son établissement. Google collecte également des informations de compte, comme « le nom, l’adresse e-mail et le mot de passe », ainsi que des données de localisation. Le document ne mentionne pas Gemini. Il précise toutefois que les données issues de l’utilisation des services de base servent à maintenir les services, à améliorer la personnalisation et à renforcer la sécurité. Les données collectées dans les Services supplémentaires sont, quant à elles, utilisées pour fournir, maintenir et améliorer les services, développer de nouveaux services, mesurer leurs performances et « protéger Google, ses utilisateurs et le public ». Pour les parents, la politique ne apporte aucune garantie que les données de leurs enfants ne servent pas le projet de Google de dominer l’industrie de l’intelligence artificielle. « Nous ne devrions pas avoir de données d’enfants collectées dans un cadre scolaire et utilisées à des fins commerciales », a déclaré Creswell.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x