Cinq plaintes accusent Scale AI de pister ceux qui entraînent les IA de Meta et OpenAI

Écrire des questions, classer les réponses d'un chatbot, recommencer. Plus de 900 000 travailleurs indépendants font ce travail sur Outlier, la plateforme de Scale AI. C'est ainsi que les grands modèles d'IA apprennent à répondre. Meta, OpenAI, xAI, Google et Anthropic figurent parmi les clients de Scale AI, selon noyb. Meta en détient 49 %, rappelle Reuters.

Le 27 octobre, l'association autrichienne noyb, fondée par Max Schrems, a déposé cinq plaintes contre Scale AI au titre du règlement européen sur la protection des données (RGPD) : une en France, une en Italie, une aux Pays-Bas et deux en Autriche. Trois partenaires l'accompagnent : le collectif de recherche parisien DiPLab, l'association française Intérêt à Agir et Reversing.Works. Scale AI n'avait pas répondu à Reuters au moment de la publication.

Que surveillerait la plateforme ?

Selon noyb, pendant le travail sur Outlier, des traceurs de TikTok, LinkedIn, Facebook, de l'outil de sondage Sprig et de Datadog s'installent sur l'appareil du travailleur. Toutes les quelques secondes, ils enverraient à ces tiers l'adresse IP, des coordonnées, des identifiants uniques et les pages consultées. Ces données peuvent servir au ciblage publicitaire et au profilage. Reuters, qui a eu accès aux plaintes, décrit jusqu'à 19 traceurs. Ils enregistreraient frappes au clavier et mouvements de souris. D'après DiPLab, ces données permettraient de rejouer une séance de travail entière.

« Pourquoi LinkedIn ou Facebook devraient-ils savoir sur quelles tâches vous travaillez ? », demande Lisa Steinfeld Leiser, de noyb. Pour l'association, Scale AI n'a pas de base légale pour déposer ces traceurs sans consentement.

Le visage filmé, encore et encore

Deuxième grief : la vérification d'identité. Selon noyb, Outlier demande à plusieurs reprises aux travailleurs une vidéo de leur visage et une pièce d'identité, via le prestataire Persona. Scale AI invoque la lutte contre la fraude et la vérification des compétences. noyb juge ces contrôles excessifs au regard du principe de minimisation, d'autant qu'il s'agit de données biométriques. L'association rappelle qu'en 2025, une fuite chez Persona a exposé environ 70 000 photos de pièces d'identité.

Troisième grief : le silence. Selon Reuters, quatre travailleurs ont demandé une copie de leurs données entre décembre 2025 et mai 2026. Aucun n'aurait reçu de réponse, alors que le RGPD impose de répondre en un mois en principe.

Le travail invisible derrière les IA

Au-delà des traceurs, DiPLab décrit, d'après des entretiens avec des travailleurs, un système de primes de 100 à 200 dollars pour 200 tâches bouclées en 24 heures. « On travaille quand la plateforme le veut et qu’il y a des tâches disponibles », résume Thomas Le Bonniec, qui a étudié la plateforme pendant deux ans pour DiPLab. Thomas Le Bonniec rappelle que l'autorité italienne de protection des données a sanctionné Glovo en 2021 pour une ludification similaire. noyb demande une enquête complète et une amende dissuasive. L'association veut aussi que les autorités examinent comment Outlier distribue les tâches.

Pour les entreprises européennes qui achètent des données d'entraînement ou font annoter leurs propres données, l'affaire rappelle une évidence : les conditions de travail des annotateurs relèvent aussi du RGPD. Reste à savoir si les autorités, dont la CNIL pour la plainte française, ouvriront une enquête, et ce que Scale AI répondra.