Covid-19: comment Facebook a permis la diffusion massive de contenus antivax

Des documents internes au réseau social montrent que la plateforme n’a pas développé les outils suffisants pour venir à bout des publications hostiles à la vaccination.

Facebook “tue des gens”. En juillet dernier, le président américain Joe Biden ne mâchait pas ses mots face à la gestion des fausses informations liées à la vaccination par le réseau social. Des documents internes, révélés par la lanceuse d’alerte Frances Haugen, confirment les importantes lacunes de l’entreprise pour lutter contre les publications antivax.

Selon le quotidien québécois Le Devoir, la plateforme a mis en place des systèmes automatisés de détection des contenus mensongers liés aux vaccins contre le Covid-19 au mois de mars 2021, afin d’en limiter la diffusion et de promouvoir des contenus émanant d’institutions telles que l’OMS. Mais avec d’importantes limites.

Les commentaires, "angle mort" de la modération

Toujours selon les documents internes, Facebook a rapidement constaté qu’une large part des messages antivax échappaient à ses algorithmes, étant publiés sous forme de commentaires d’une publication. Les outils de détection de Facebook se limitaient alors aux simples publications elles-mêmes.

Au mois de février, des recherches internes ont montré que 60% des commentaires liés à des publications concernant la vaccination s’y montraient hostiles.

“Notre capacité à détecter [l’hésitation vaccinale] dans les commentaires est mauvaise en anglais, et essentiellement inexistante ailleurs” précise un document daté du 2 mars 2021.

Pour limiter les dégâts, des salariés de l’entreprise ont alors suggéré de désactiver les commentaires sous les publications liées à la vaccination, sans que l’idée soit retenue.

“Les commentaires constituent une part importante de la désinformation sur Facebook et constituent un angle mort pour nous” déplorait pourtant un employé de la plateforme, d’après des documents partagés par le site américain The Verge.

Des fake news parmi les publications les plus populaires

Même lorsqu’il s’agit de simples publications, les outils automatisés de modération de Facebook se sont parfois montrés peu précis. Comme le relève Le Monde, un message anglophone associant les vaccins contre le Covid à une expérimentation n’a pas été pris en compte par l’intelligence artificielle de la plateforme, qui l’a par erreur interprété comme une publication écrite en roumain.

D’après ces documents, une large partie des contenus antivax ont émané de quelques comptes influents, qui auraient de fait été aisés à modérer. En France, des vidéos affirmant que les vaccins étaient conçus pour “pucer” la population et la relier à la 5G ont parfois figuré en tête des contenus les plus populaires sur le sujet dès le mois de janvier 2021, comme avait pu le constater BFMTV.

C’est notamment le cas de vidéos partagées par le militant antivax Jean-Jacques Crèvecœur, qui comptait plus de 350.000 abonnés. Si Facebook a durci ses règles de modération contre les contenus antivax en mars, l’entreprise a attendu le mois de juillet pour sanctionner la page, en la supprimant.

Ces documents internes “ne représentent pas les progrès considérables que nous avons réalisés depuis ce moment pour fournir une information fiable au sujet de la COVID-19 et pour neutraliser la désinformation concernant la COVID et la vaccination” a déclaré l’entreprise au Devoir.

https://twitter.com/GrablyR Raphaël Grably Rédacteur en chef adjoint Tech & Co