Pięciu niezależnych pracowników złożyło skargę na amerykańską firmę Scale AI w czterech krajach europejskich, w tym we Francji. Zarzucają oni nadmierne gromadzenie ich danych osobowych, oskarżenia, których firma, poproszona o komentarz przez franceinfo, zaprzecza.
We wtorek 27 października złożono skargi. Dotyczą one firmy Scale AI, specjalizującej się w trenowaniu sztucznej inteligencji, i zostały wniesione, jak podaje Lisa Steinfeld Leiser, prawniczka ze stowarzyszenia noyb, „we Francji, we Włoszech, w Holandii i w Austrii ». Noyb, organizacja broniąca praw cyfrowych, przygotowała te skargi.
W centrum sprawy znajduje się platforma Outlier, która twierdzi, że ma ponad 900 000 współpracowników na całym świecie. Ci pracownicy wykonują płatne zadania, m.in. oceniają odpowiedzi generowane przez sztuczną inteligencję, porównują je lub poprawiają. Wśród klientów Scale AI są Meta, Google i OpenAI.
Kontrowersyjne narzędzia nadzoru
Skarżący zarzucają wykorzystanie narzędzi cyfrowego nadzoru, zwanych „trackerami », które mogą zbierać informacje o ich aktywności. Niektóre z nich miałyby śledzić ich przeglądanie, gdy opuszczają platformę Outlier, aby odwiedzać inne strony.
Te praktyki były badane przez dwa lata przez badaczy z francuskiego kolektywu DiPLab, którzy zidentyfikowali do 19 trackerów i różnych narzędzi nadzoru. Niektóre z nich mogłyby umożliwiać odtworzenie sesji pracy w formie wideo. Antonio Casilli, badacz z Télécom Paris, opisuje te urządzenia: „Istnieją rozszerzenia, które kontrolują ruchy myszy tych pracowników, robią zrzuty ekranu z ich sesji lub które czasami mogą być wykorzystywane do pełnego odtworzenia ich aktywności, jak gdyby to było wideo. »
Krytyce poddawane są również wymagane weryfikacje tożsamości, aby uzyskać dostęp do niektórych zadań. Pracownicy muszą dostarczyć dokument tożsamości i zdjęcia swojej twarzy, czasami wielokrotnie, przy udziale dostawcy specjalizującego się w weryfikacji tożsamości. Według skarżących, te praktyki prowadzą do nadmiernego gromadzenia danych. Podkreślają również brak odpowiedzi na niektóre wnioski o dostęp do informacji na ich temat.
Odpowiedź firmy
Scale AI odrzuca zarzuty, które uważa za „bezzasadne i nieprawdziwe ». Przyznaje jednak, że w przypadku niektórych zadań oprogramowanie może rejestrować czas poświęcony na zadania i aktywność na ekranie. Według firmy współpracownicy są informowani o tych praktykach, muszą wyrazić na nie zgodę i samodzielnie aktywować dane narzędzie.
Zdaniem Scale AI, te kontrole mają na celu m.in. zapobieganie oszustwom, ochronę poufnych informacji klientów oraz zapewnienie dokładnego wynagrodzenia pracownikom. Dokumenty tożsamości i zdjęcia twarzy służyłyby weryfikacji tożsamości współpracowników i zabezpieczeniu ich kont. Firma twierdzi również, że przestrzega ogólnego rozporządzenia o ochronie danych (RODO).
Noyb wzywa władze do zbadania praktyk Scale AI i rozważenia sankcji. Na tym etapie zarzuty zawarte w skargach nie zostały jeszcze rozstrzygnięte ostatecznie przez właściwe organy.
