Climat, Covid-19: sur Amazon, la désinformation passe par les recommandations littéraires

Le 12/12/2023 à 15:12

Publié lundi 11 décembre, le rapport des chercheurs d'AI Forensics et de Check First alerte sur un algorithme "inadapté", qui met en avant des livres controversés.

"Nous identifions une pléthore de livres co-recommandés, approuvant le déni climatique, propageant les théories du complot sur le Covid-19 et défendant des opinions conservatrices sur les questions de genre." Le rapport des chercheurs d'AI Forensics et de Check First, publié le 11 décembre et relayé par Le Monde, est sans équivoque: "l'algorithme d'Amazon favorise la vente de certains ouvrages".

Des ouvrages qualifiés de "trompeurs" selon l'enquête et qui portent sur des sujets sociétaux au cœur de l'actualité. Covid-19, immigration, droits des femmes, question de genres, avortement, changement climatique... les récits sont présentés comme des "pièges" pour les lecteurs et "ne parviennent pas à fournir un pluralisme de points de vue", souligne le rapport.

Les livres, "source d'information légitime"

À partir d'un corpus de 2.000 ouvrages, considérés comme des best-sellers, les chercheurs de l’organisation à but non lucratif AI Forensics et l’entreprise Check First sont allés regarder les recommandations d'Amazon.

En octobre et novembre 2023, ils ont ainsi étudié l'algorithme en utilisant des profils sans historique et étudié "plus de 60.000 recommandations de livres" dans les librairies virtuelles françaises et belges d'Amazon pour constater ces biais.

Par exemple, sur la question du Covid, "80% des livres du top 10 remettent en question l’existence de la pandémie, en minimisant ses effets sur la santé ou en la présentant comme un complot" soulignent les auteurs.

Par ailleurs, en novembre 2023, 72% des résultats de recherche liés au mot-clé "Covid" et affichés par Amazon France intégraient des livres écrits par des auteurs ayant déjà diffusé de la désinformation, explique le rapport.

Le document évoque par ailleurs, toujours sur Amazon France, des suggestions de livres portant sur le sujet du climat. Lors d'une recherche liée au "changement climatique", la majorité des 10 premiers résultats dirigeaient vers des livres niant le consensus scientifique.

Selon le dernier rapport de l'entreprise, plus de 181 millions d'internautes utilisent, chaque mois en Europe, la plateforme. Les livres "représentent, dans l’opinion publique, une source d’information légitime", soulignent les chercheurs dans une interview menée par Le Monde.

Des recommandations "inadaptées"

Le système de recommandation d'Amazon est aussi mis en cause dans le rapport. Il souligne "qu'après avoir cliqué sur un livre à partir d'un résultat de recherche, il faut des dizaines de clics successifs sur les recommandations d'Amazon pour en sortir".

Faute de mécanismes de sécurité efficaces pour contrôler l'âge des utilisateurs, Amazon ne parvient pas à proposer des recommandations adaptées, d'après le rapport. L'entreprise américaine indique, sur son site, "prendre en compte les articles préalablement achetés, possédés et évalués; comparer l'activité de l'utilisateur sur le site avec celle d'autres clients et utiliser cette comparaison" pour émettre la recommandation.

Contactée par Tech&Co, Amazon indique que des "investigations sont en cours" et qu'elle continuera "de prendre les mesures appropriées contre les produits qui ne sont pas conformes à (sa) politique".

"Amazon partage avec la Commission européenne l’ambition de créer un environnement numérique sûr, prévisible et de confiance, et nous investissons de façon significative afin de protéger notre boutique des acteurs malintentionnés et des contenus illégaux" indique le groupe.