Vijf freelancers hebben een klacht ingediend tegen het Amerikaanse bedrijf Scale AI in vier Europese landen, waaronder Frankrijk. Ze klagen over een buitensporige verzameling van hun persoonlijke gegevens, beschuldigingen die het bedrijf, benaderd door franceinfo, betwist.
- Vijf freelancers dienen klachten in tegen Scale AI in vier Europese landen.
- Ze verwijten het bedrijf dat het hun persoonlijke gegevens buitensporig verzamelt.
- Trackers en schermafbeeldingen kunnen hun werksessies volledig reconstrueren.
- Scale AI wijst alle beschuldigingen af en zegt de AVG na te leven.
Dinsdag 27 oktober zijn de klachten ingediend. Ze zijn gericht tegen Scale AI, gespecialiseerd in het trainen van kunstmatige intelligenties, en zijn volgens Lisa Steinfeld Leiser, juriste bij de vereniging noyb, « in Frankrijk, Italië, Nederland en Oostenrijk » ingediend. Noyb, die opkomt voor digitale rechten, heeft deze klachten opgesteld.
In het hart van de zaak staat Outlier, een platform dat wereldwijd meer dan 900.000 bijdragers claimt. Deze werkers voeren betaalde microtaken uit, onder andere om antwoorden geproduceerd door kunstmatige intelligenties te beoordelen, te vergelijken of te corrigeren. Scale AI telt Meta, Google en OpenAI onder zijn klanten.
Omstreden surveillance-tools
De klagers hekelen het gebruik van digitale surveillance-instrumenten, zogenaamde ‘trackers’, die mogelijk informatie over hun activiteit verzamelen. Sommige zouden hun navigatie kunnen volgen wanneer ze het platform Outlier verlaten om andere websites te raadplegen.
Deze praktijken zijn twee jaar lang bestudeerd door onderzoekers van het Franse collectief DiPLab, die tot 19 trackers en verschillende surveillance-instrumenten identificeerden. Sommige zouden het mogelijk maken om een werksessie in de vorm van een video te reconstrueren. Antonio Casilli, onderzoeker aan Télécom Paris, beschrijft deze instrumenten: « Er bestaan extensies die de muisbewegingen van deze werkers controleren, die schermafbeeldingen van hun sessies nemen of die soms gebruikt kunnen worden om hun activiteiten volledig te reconstrueren, alsof het een video betrof. »
De identiteitscontroles die worden opgelegd om toegang te krijgen tot bepaalde opdrachten zijn eveneens onderwerp van kritiek. De werkers moeten een identiteitsbewijs en afbeeldingen van hun gezicht verstrekken, soms meermaals, met tussenkomst van een gespecialiseerde identiteitsverificatie-dienstverlener. Volgens de klagers leiden deze instrumenten tot een buitensporige gegevensverzameling. Ze wijzen ook op het ontbreken van een antwoord op bepaalde verzoeken om toegang tot de over hen beschikbare informatie.
Het antwoord van het bedrijf
Scale AI wijst de beschuldigingen af, die het als « ongegrond en onjuist » bestempelt. Het erkent echter dat voor bepaalde opdrachten een software de aan de taken bestede tijd en de activiteit op het scherm kan registreren. Volgens het bedrijf worden de bijdragers over deze praktijken geïnformeerd, moeten ze hun toestemming geven en het betreffende instrument zelf activeren.
Volgens Scale AI zijn deze controles onder andere bedoeld om fraude te voorkomen, de vertrouwelijke informatie van zijn klanten te beschermen en een exacte vergoeding van de werkers te garanderen. De identiteitsdocumenten en gezichtsafbeeldingen zouden dienen om de identiteit van de bijdragers te verifiëren en hun accounts te beveiligen. Het bedrijf beweert bovendien de Algemene Verordening Gegevensbescherming (AVG) na te leven.
Noyb vraagt de autoriteiten om de praktijken van Scale AI te onderzoeken en sancties te overwegen. Op dit moment hebben de beschuldigingen in de klachten nog geen definitieve beslissing van de bevoegde autoriteiten opgeleverd.
