Comment l'algorithme de TikTok enferme ses utilisateurs dans des univers virtuels

Une enquête du Wall Street Journal révèle que les vidéos proposées par TikTok ne sont déterminées ni par les partages ou les "J'aime", mais par un autre critère bien plus précis: le temps.

Comment fonctionne vraiment l'algorithme de TikTok, cette application populaire qui fait visionner de courtes vidéos à un rythme effréné? Le Wall Street Journal s'est interrogé sur la façon dont fonctionne l'application, lui valant d'être la plus téléchargée au monde au premier trimestre de l'année 2021.

Pour réaliser cette enquête, le journal a créé plus d’une centaine de comptes dont ils ont automatisé le comportement, en leur attribuant chacun deux centres d’intérêts - uniquement choisis en interne, ainsi qu'un âge et une localisation.

Les centres d’intérêts n’ont jamais été explicitement communiqués à l’application. Pour concrétiser l'intérêt pour les sujets choisis, les équipes du Wall Street Journal ont programmé les comptes pour ne regarder en entier que des vidéos associés à des mots-clés relatifs à ces centres d'intérêts.

Le temps passé comme mètre étalon

Comme le révélait Axios en 2020, TikTok propose à chaque nouvel utilisateur une sélection de huit vidéos très populaires, qui cumulent des centaines de milliers de "J'aime", voire des millions. En fonction de l’engagement sur chacune de ces vidéos, qui sont très variées, l’algorithme va déterminer les intérêts de l’utilisateur, et s’affiner de plus en plus.

C’est cette notion d’engagement que le Wall Street Journal a voulu comprendre en créant ces faux comptes. Au terme de leur étude, les journalistes ont pu déterminer que ce n’était ni les “J'aime”, ni les partages ou les abonnements à certains comptes qui déterminaient le profil-type d’un utilisateur, mais le temps passé sur une vidéo.

"A chaque fois que vous vous arrêtez sur une vidéo, que vous hésitez, ou que vous la revisionnez, l'algorithme vous piste", précise le Wall Street Journal.

Plusieurs élements entrent en ligne de compte. Outre le temps passé sur la vidéo, l'algorithme enregistre le compte qui l'a publiée, les mots-clés utilisés, et la musique.

"Terriers de lapin"

La technique a cependant un effet collatéral, qui tient dans cet “affinage”: au fur et à mesure, l’algorithme enferme les utilisateurs dans des microcosmes tournant autour d’un seul et même intérêt: des "terriers de lapin", comme les baptise le Wall Street Journal, desquels on ne sort plus. Une version plus radicale des "bulles de filtre", qui ont tendance à enfermer les internautes dans diverses communautés sur les autres réseaux sociaux.

Et sur TikTok, les sujets potentiels sont légions. Animaux, danse, cuisine et tant d'autres thèmes du quotidien en font partie. Mais aujourd'hui, l'application est aussi devenue un lieu de soutien ou de partage, où les questions de troubles psychologiques, du comportement alimentaire et toutes sortes d'affections mentales se discutent publiquement.

Pour mettre en évidence l'enfermement que peut provoquer l'application appartenant au géant chinois ByteDance, le Wall Street Journal a créé un profil, nommé Kentucky_96, lui allouant deux centres d'intérêts: la "dépression" et la "tristesse". Pour inciter la plateforme à reconnaître ces centres d'intérêts, le compte a été programmé pour regarder entièrement les vidéos associées à ces deux termes.

Après avoir visionné, en entier, une première vidéo sur le sujet, une deuxième est proposée à ce profil, une vingtaine de vidéos la séparant de la première. Mais la sélection se fait rapidement bien plus efficace: au bout de 36 minutes de visionnage, 93% des contenus proposés concernent la dépression.

Une porte-parole de TikTok, contactée par le Wall Street Journal, assure que les 7% restant "apparaissaient pour aider l'utilisateur à visionner des contenus différents". Or, dans le cas présent, plusieurs publicités étaient présentes dans ces 7%.

Apprendre de nos vulnérabilités

Selon les observations des journalistes américains, TikTok privilégie cet enfermement numérique. Une fois ce "calibrage" effectué pour connaître les intérêts de l'utilisateur, l’algorithme propose des vidéos toujours plus spécifiques, même si elles sont moins populaires. Avec le risque que de telles séquences "de niche" passent aux travers des mailles de la modération.

Pour le très jeune public de TikTok le principal risque est de tomber dans des spirales de thèmes délètères touchant à la désinformation ou à la santé - mentale ou physique, comme c'est le cas pour certains utilisateurs de YouTube.

Guillaume Chaslot, ancien salarié de YouTube et fondateur d'AlgoTransparency, explique que TikTok est différent des autres plateformes, car “capable d’apprendre [vos] vulnérabilités bien plus rapidement”.

De la centaine de comptes créés, l’algorithme a compris les centres d'intérêts de la majorité en à peine deux heures, dont certains en moins de quarante minutes, comme dans le cas de Kentucky_96.

"L'algorithme va vous pousser vers des contenus de plus en plus extrêmes, pour augmenter au maximum le temps passé sur l'application. Ce n'est pas parce que vous les regardez que vous les appréciez, c'est simplement qu'ils sont plus à même de vous faire rester plus longtemps sur la plateforme", explique Guillaume Chaslot.

Enferment plus fort que sur YouTube

Il estime à 90, voire 95% le contenu visionné issu de cet algorithme de recommandation. Pour prendre un élement de comparaison, une étude réalisée par la fondation Mozilla révélait que dans le cas de YouTube, 70% des contenus estimés comme “nuisibles” étaient issus de l’algorithme de recommandation.

Ces algorithmes sont loin d'être anecdotiques: ils constituent les moteurs des géants de la tech, façonnant la relation avec les utilisateurs. Régulièrement attaqué sur son manque de transparence à ce sujet, Google vient de lancer un nouvel outil aux Etats-Unis. Il permet aux internautes de comprendre pourquoi tel résultat leur est parvenu, au moyen d'un bouton baptisé "A propos de ce résultat."

ByteDance, la maison-mère de TikTok a, de son côté, a mis son algorithme en vente auprès d'autres entreprises. Une façon, aussi, de montrer patte blanche suite aux différentes critiques. Outre les tensions avec les Etats-Unis fin 2020, il avait également été reproché à l'algorithme de favoriser les contenus sexualisés mettant en scène des mineurs.

Victoria Beurnez