Franceinfo：AI労働者、スクリーンショットと顔認証による過剰な監視を告発

10月27日（火）、訴訟が提起された。AIの学習を専門とするScale AIを対象としたこの訴訟は、デジタル権利を擁護する団体noybの弁護士リサ・シュタインフェルト・ライザーによれば、「フランス、イタリア、オランダ、オーストリア」で提起された。noybがこれらの訴状を作成した。

問題の中心は、世界中に90万人以上の貢献者を擁すると主張するプラットフォーム「Outlier」である。これらの労働者は、AIが生成した回答の評価、比較、修正などのタスク単位で報酬を得る仕事を行っている。Scale AIの顧客にはMeta、Google、OpenAIが含まれる。

問題視される監視ツール

原告らは、彼らの活動に関する情報を収集する可能性のある「トラッカー」と呼ばれるデジタル監視装置の使用を告発している。一部のツールは、労働者がOutlierプラットフォームを離れて他のサイトを閲覧する際の行動を追跡できるという。

これらの慣行は、フランスの研究グループDiPLabの研究者らによって2年間調査され、最大19種類のトラッカーや様々な監視ツールが特定された。一部のツールは作業セッションを動画として再構成できる可能性がある。テレコム・パリの研究者アントニオ・カシリはこれらの装置について説明する：「これらの労働者のマウスの動きを監視したり、作業セッションのスクリーンショットを撮ったり、時には彼らの活動をまるで動画のように完全に再構成するために使用される拡張機能が存在します。」

特定のタスクにアクセスするために要求される本人確認も批判の対象となっている。労働者は身分証明書と顔画像を、時には複数回、専門の本人確認業者を介して提供する必要がある。原告らは、これらの仕組みがデータの過剰収集につながると主張する。また、自身に関する保有情報へのアクセス要求に一部応じられていない点も指摘している。

企業側の反応

Scale AIは、告発内容を「根拠がなく不正確」として退けている。ただし、特定のタスクにおいて、作業時間と画面活動を記録するソフトウェアが使用されることは認めている。同社によれば、貢献者はこれらの慣行について通知され、同意を与え、該当するツールを自ら有効化する必要があるという。

Scale AIによると、これらの監視は特に詐欺の防止、顧客の機密情報の保護、労働者への正確な報酬支払いを目的としている。身分証明書と顔画像は貢献者の本人確認とアカウントの保護に使用されるとしている。同社はさらに、一般データ保護規則（GDPR）を遵守していると主張する。

noybは当局に対し、Scale AIの慣行を調査し制裁を検討するよう求めている。現時点では、訴状で提起された告発について、関係当局による最終的な決定は下されていない。