Una denuncia presentada por Emma Doe acusa a Google de explotar la posición dominante que ocupa en las escuelas desde 2007 para imponer la inteligencia artificial a los niños y apropiarse de sus datos, sin protegerlos de manera suficiente contra los riesgos más graves relacionados con el comportamiento de su chatbot. El texto aborda la complacencia excesiva de la herramienta, que tiende a aprobar al usuario.
En Chicago, el CPS firmó un contrato con Google en 2020, « mucho antes del despliegue de Gemini », constató Creswell. Durante las dos prórrogas sucesivas de este contrato, no se introdujo ninguna actualización para proteger la privacidad de los estudiantes, a pesar de que la inteligencia artificial avanzaba.
Una política de privacidad considerada insuficiente
Según Creswell, seguía siendo « totalmente confuso » en los contratos saber cómo había podido evolucionar el tratamiento de los datos de los estudiantes por parte de Google, más allá de las actualizaciones de la política de privacidad de Google Workspace for Education.
Esta política indica, entre otras cosas, que Google « recibe los datos del cliente a través de los Servicios Básicos y los procesa según las instrucciones de la escuela (el cliente) ». Estos datos incluyen todo lo que se envía, almacena, envía o recibe a través de los Servicios Básicos por el usuario o su institución. Google también recopila información de la cuenta, como « el nombre, la dirección de correo electrónico y la contraseña », así como datos de ubicación. El documento no menciona a Gemini. Sin embargo, especifica que los datos derivados del uso de los servicios básicos sirven para mantener los servicios, mejorar la personalización y reforzar la seguridad. Los datos recopilados en los Servicios Adicionales se utilizan, por su parte, para proporcionar, mantener y mejorar los servicios, desarrollar nuevos servicios, medir su rendimiento y « proteger a Google, sus usuarios y el público ». Para los padres, la política no aporta ninguna garantía de que los datos de sus hijos no sirvan al proyecto de Google de dominar la industria de la inteligencia artificial. « No deberíamos tener datos de niños recopilados en un entorno escolar y utilizados con fines comerciales », declaró Creswell.
