Facebook: des employés assurent avoir été empêchés d'enquêter sur les biais racistes des algorithmes

Plusieurs employés affirment que Facebook leur a interdit de travailler sur les biais racistes des algorithmes. En réaction, le réseau social vient d'annoncer la création d'une équipe dédiée.

Trois mois après la mort de George Floyd et la vague de manifestations antiracistes aux Etats-Unis, Facebook se retrouve critiqué pour avoir ignoré les biais racistes de ses algorithmes, selon CNBC. Il y a quelques semaines, plusieurs annonceurs avaient boycotté les espaces publicitaires de Facebook, jugé trop laxiste dans sa politique de lutte contre les contenus haineux.

L'enquête menée par CNBC révèle que des employés auraient été empêchés d'enquêter sur les bais racistes des algorithmes. Ils dénoncent le manque d'action de la direction sur le sujet.

Des chercheurs de Facebook expliquent ainsi avoir informé l'année dernière leurs supérieurs que les utilisateurs noirs d'Instagram (propriété de Facebook) avaient environ 50% de chances de plus de voir leur compte automatiquement désactivé en cas d'infraction que les utilisateurs blancs à cause d'un changement de politique.

Ils espéraient qu'un rectificatif serait rapidement déployé. Mais il n'en fut rien. Pire, ils ont été sommés de ne pas partager ces conclusions avec leurs collègues et d'arrêter de mener leurs recherches. Quand une nouvelle version d'Instagram est finalement sortie, ils n'ont pas eu le droit de vérifier si le problème était résolu.

Facebook constitue (enfin) une équipe dédiée

A la suite de ces révélations, Facebook a indiqué dans un communiqué qu'une enquête serait menée. L'entreprise a annoncé avoir constitué une équipe dont la seule et unique tâche sera de garantir "la justice et le développement équitable des produits dans tout ce que Facebook fait". Un aveu de n'avoir jamais vraiment travaillé sur la question, 16 ans après la création du réseau social.

Par définition, les algorithmes ne sont pas parfaits et comportent des biais, notamment à cause du manque de diversité dans les bases de données. Il y a quelques semaines, Instagram était accusé de supprimer quasi systématiquement les photos d'utilisateurs de forte corpulence en maillot de bain, pour infraction à la nudité, à la différence des personnes minces. En cause, un algorithme dont la base de données ne contenait pas suffisamment d'images de personnes corpulentes en maillot de bain, donc bien moins précis.

https://twitter.com/Pauline_Dum Pauline Dumonteil Journaliste BFM Tech