TikTok propose-t-il des recommandations selon l’apparence des utilisateurs?

Selon un chercheur en intelligence artificielle, l'algorithme de suggestion de TikTok semble lié à l'apparence des différents utilisateurs. Ce que le réseau social nie en bloc.

Les algorithmes de suggestion de contenus des réseaux sociaux font l’objet de nombreuses questions sur leur fonctionnement. Celui de l’application chinoise TikTok n'y échappe pas. Quand un utilisateur s’abonne à un profil, l’algorithme lui suggère une liste de comptes susceptibles de l’intéresser. Jusque là, rien d’anormal, d’autres plateformes - comme Twitter, le font aussi. 

Mais un chercheur en intelligence artificielle a remarqué que les recommandations TikTok semblaient basées sur l’apparence. Ainsi, suivre le profil d’une femme noire générerait des suggestions de comptes d’autres femmes noires. Idem pour un homme d'apparence asiatique ou avec de la barbe. 

TikTok se défend

En s’abonnant au profil de l’acteur américain Will Smith, l’algorithme a effectivement recommandé les comptes de Kevin Hart, Terry Crews et The Rock, tous les trois noirs. Même constat en s’abonnant à "akamztwenty20", l’un des Français les plus populaires sur TikTok avec 2,5 millions d’abonnés. Les trois profils suggérés sont ceux de personnes noires. Idem pour les utilisateurs d’apparence asiatique.

Outre la couleur de peau, l'apparence physique en général semble avoir une influence. Pour la Française Lea Elui (10,4 millions d’abonnés sur TikTok), la plateforme a suggéré les profils d’autres filles au teint clair et aux cheveux longs et lisses. Le résultat était le même en s’abonnant aux profils d’utilisatrices moins populaires.

Mais cette expérience trouve aussi ses limites. Pour Tibo InShape (6,83 millions d'abonnés sur YouTube), TikTok suggère celui de sa compagne Juju Fitcats, un compte fan et celui de L’atelier de Roxane, une autre vidéaste populaire (3,24 millions abonnés sur YouTube). 

Joint par BFM Tech, TikTok assure que ces résultats sont le fruit d'intérêts communs entre les utilisateurs et qu'en aucun cas l'algorithme de recommandation n'analyse leur apparence.

"Nous n'avons pas pu reproduire les résultats présentés [par le chercheur en intelligence artificielle, ndlr]. Notre recommandation de comptes à suivre est basée sur le comportement des utilisateurs et sur leurs interactions avec la plateforme: les utilisateurs qui suivent le compte A suivent également le compte B, donc si vous suivez A, il est probable que vous vouliez également suivre B" explique un porte-parole de l'entreprise.

Il y a deux ans, l’algorithme de Netflix était accusé de racisme. Des internautes avaient repéré que sur leur compte, Netflix mettait en avant sur les vignettes - de films et de séries - les acteurs noirs, même s’ils n’y apparaissaient que quelques minutes. L’entreprise avait rejeté toute forme de racisme en indiquant ne pas connaître “la race, le sexe ou l’apparence ethnique des utilisateurs” et se baser uniquement “sur l’historique de consultation”. 

https://twitter.com/Pauline_Dum Pauline Dumonteil Journaliste BFM Tech