Жалоба, поданная Эммой Доу, обвиняет Google в использовании доминирующего положения, которое компания занимает в школах с 2007 года, для навязывания искусственного интеллекта детям и присвоения их данных, без достаточной защиты от наиболее серьезных рисков, связанных с поведением ее чат-бота. В тексте говорится о чрезмерной уступчивости инструмента, который склонен одобрять пользователя.
В Чикаго CPS подписала контракт с Google в 2020 году, «задолго до развертывания Gemini», отметил Кресвелл. В ходе двух последовательных продлений этого контракта не было внесено никаких обновлений для защиты конфиденциальности учащихся, несмотря на прогресс в области искусственного интеллекта.
Политика конфиденциальности признана недостаточной
По словам Кресвелла, в контрактах оставалось «совершенно неясным», как мог измениться процесс обработки данных учащихся Google, помимо обновлений политики конфиденциальности Google Workspace for Education.
Эта политика, в частности, указывает, что Google «получает данные клиентов через Основные сервисы и обрабатывает их в соответствии с указаниями школы (клиента)». Эти данные включают все, что отправляется, хранится, передается или получается через Основные сервисы пользователем или его учреждением. Google также собирает информацию об учетной записи, такую как «имя, адрес электронной почты и пароль», а также данные о местоположении. В документе не упоминается Gemini. Тем не менее, в нем уточняется, что данные, полученные в результате использования основных сервисов, служат для поддержания сервисов, улучшения персонализации и повышения безопасности. Данные, собранные в рамках Дополнительных сервисов, в свою очередь, используются для предоставления, поддержания и улучшения сервисов, разработки новых услуг, измерения их производительности и «защиты Google, ее пользователей и общественности». Для родителей политика не дает никаких гарантий, что данные их детей не служат проекту Google по доминированию в индустрии искусственного интеллекта. «У нас не должно быть данных детей, собранных в школьной среде и используемых в коммерческих целях», — заявил Кресвелл.
