L'algorithme de Twitter privilégiait les photos de femmes "jeunes, fines et blanches"

Le 11/08/2021 à 13:44

Un exemple de reconnaissance faciale. - Faceplusplus

Le réseau social a organisé un concours pour mettre en évidence les biais de son algorithme.

Sur Twitter, un algorithme permet de recadrer les photos publiées par les internautes afin qu'elles apparaissent dans un format adapté au fil d'actualité. Cet algorithme définit automatiquement la "portion" de photo qui sera affichée, sans possibilité pour les utilisateurs d'y remédier.

En mai 2021, cette fonction avait été épinglée, car il avait été jugé qu'elle favorisait les visages de femmes blanches au détriment des autres. Pour changer cela, Twitter avait annoncé mettre fin à l'usage de cette intelligence artificielle, comme le rappelle Wired.

Afin d'optimiser son algorithme, le réseau social a organisé un concours permettant de déterminer les mauvaises pratiques de celui-ci. Nommé l'Algorithmic Bias Bounty Challenge, ce concours qui a eu lieu du 30 juillet au 7 août 2021 a permis de mettre en évidence des inégalités dans le traitement des personnes.

C'est un étudiant suisse, spécialisé en ingénierie informatique, nommé Bogdan Kulynych qui a pris la main du concours. Son travail a permis de révéler que l'algorithme utilisé par Twitter privilégiait non seulement les femmes blanches, mais aussi jeunes et fines.

Plusieurs biais mis en avant

Pour ce travail, Kulynych a créé des centaines de visages aux critères bien précis, allant d'une peau pâle à foncée, de tous les âges et de toutes les apparences, afin d'identifier plus précisement ce qui plaisait le plus à l'algorithme de Twitter.

D'autres biais ont également été rapportés par plusieurs participants au concours: l'algorithme est discriminant envers les personnes aux cheveux blancs ou gris, mais également envers les émojis à la couleur de peau foncée. Il a également été remarqué que les images présentant des caractères de l'alphabet latin sont préférées à l'alphabet arabe.