Google stawia czoła wezwaniom do moratorium na sztuczną inteligencję w szkołach po Gemini

Google stawia czoła wezwaniom do moratorium na sztuczną inteligencję w szkołach po Gemini

Skarga złożona przez Emmę Doe oskarża Google o wykorzystywanie dominującej pozycji, jaką firma zajmuje w szkołach od 2007 roku, do narzucania dzieciom sztucznej inteligencji i zawłaszczania ich danych, bez odpowiedniego zabezpieczenia przed najpoważniejszymi zagrożeniami związanymi z zachowaniem swego chatbota. Tekst dotyczy nadmiernej uległości narzędzia, które ma tendencję do aprobowania użytkownika.

W Chicago CPS podpisało z Google kontrakt w 2020 roku, „na długo przed wdrożeniem Gemini », zauważył Creswell. Podczas dwóch kolejnych przedłużeń tego kontraktu nie wprowadzono żadnych aktualizacji mających chronić prywatność uczniów, mimo postępów w dziedzinie sztucznej inteligencji.

Polityka prywatności uznana za niewystarczającą

Zdaniem Creswella, w kontraktach „pozostawało całkowicie niejasne », jak mogła ewoluować obróbka danych uczniów przez Google, poza aktualizacjami polityki prywatności Google Workspace for Education.

Polityka ta wskazuje między innymi, że Google „otrzymuje dane klientów za pośrednictwem Usług Podstawowych i przetwarza je zgodnie z instrukcjami szkoły (klienta) ». Dane te obejmują wszystko, co użytkownik lub jego instytucja przesyła, przechowuje, wysyła lub otrzymuje za pośrednictwem Usług Podstawowych. Google zbiera również informacje o koncie, takie jak „imię i nazwisko, adres e-mail i hasło », a także dane lokalizacyjne. Dokument nie wspomina o Gemini. Zaznacza jednak, że dane z korzystania z usług podstawowych służą do utrzymania usług, poprawy personalizacji i wzmocnienia bezpieczeństwa. Dane zbierane w Usługach Dodatkowych są natomiast wykorzystywane do świadczenia, utrzymywania i ulepszania usług, opracowywania nowych usług, mierzenia ich wydajności oraz „ochrony Google, jego użytkowników i społeczeństwa ». Dla rodziców polityka nie daje żadnej gwarancji, że dane ich dzieci nie służą projektowi Google dotyczącemu dominacji w branży sztucznej inteligencji. „Nie powinniśmy mieć danych dzieci zbieranych w środowisku szkolnym i wykorzystywanych do celów komercyjnych » – powiedział Creswell.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x