Een klacht ingediend door Emma Doe beschuldigt Google ervan de dominante positie die het sinds 2007 in scholen inneemt te misbruiken om kunstmatige intelligentie aan kinderen op te dringen en hun gegevens toe te eigenen, zonder hen voldoende te beschermen tegen de ernstigste risico’s die samenhangen met het gedrag van zijn chatbot. De tekst gaat over de overdreven meegaandheid van het instrument, dat de neiging heeft de gebruiker goed te keuren.
In Chicago heeft het CPS in 2020 een contract met Google getekend, « lang voor de lancering van Gemini », constateerde Creswell. Tijdens de twee opeenvolgende verlengingen van dit contract zijn er geen updates ingevoerd om de privacy van leerlingen te beschermen, terwijl de kunstmatige intelligentie zich ontwikkelde.
Een privacybeleid dat onvoldoende wordt geacht
Volgens Creswell bleef het in de contracten « volstrekt onduidelijk » hoe de verwerking van leerlinggegevens door Google kon zijn geëvolueerd, afgezien van updates van het privacybeleid van Google Workspace for Education.
Dit beleid vermeldt onder meer dat Google « klantgegevens ontvangt via de Kernservices en deze verwerkt volgens de instructies van de school (de klant) ». Deze gegevens omvatten alles wat door de gebruiker of zijn instelling via de Kernservices wordt ingediend, opgeslagen, verzonden of ontvangen. Google verzamelt ook accountinformatie, zoals « naam, e-mailadres en wachtwoord », evenals locatiegegevens. Het document noemt Gemini niet. Het preciseert echter dat gegevens uit het gebruik van de kernservices dienen om de diensten te onderhouden, de personalisatie te verbeteren en de beveiliging te versterken. De gegevens die worden verzameld in de Aanvullende diensten worden op hun beurt gebruikt om de diensten te leveren, te onderhouden en te verbeteren, nieuwe diensten te ontwikkelen, hun prestaties te meten en « Google, zijn gebruikers en het publiek te beschermen ». Voor ouders biedt het beleid geen enkele garantie dat de gegevens van hun kinderen niet worden gebruikt voor het project van Google om de kunstmatige intelligentie-industrie te domineren. « We zouden geen gegevens van kinderen moeten hebben die in een schools kader worden verzameld en voor commerciële doeleinden worden gebruikt », aldus Creswell.
