Twitter veut se passer des humains pour modérer les contenus haineux

Selon la responsable de la confiance et de la sécurité de l'entreprise, Twitter compte s'appuyer sur des procédés automatiques pour mieux modérer les contenus litigieux.

Elon Musk veut faire évoluer la manière dont sont modérés les contenus haineux sur Twitter. Le propriétaire de Tesla entend désormais s'appuyer fortement sur l'automatisation des systèmes de modérations pour repérer et éliminer les contenus haineux. Selon Ella Irwin, la nouvelle responsable de la confiance et de la sécurité au sein du réseau social, certains examens manuels ont ainsi été supprimés pour favoriser ces nouveaux procédés, a rapporté Le Guardian samedi 3 décembre,

Désormais, les tweets signalés par des personnalités de confiance, considérées comme fiables par la plateforme et dont les signalements sont habituellement précis, sont automatiquement supprimés a-t-elle indiqué. Twitter privilégie également la restriction de diffusion plutôt que la suppression pure et simple de certains discours haineux.

Ella Irwin a justifié cette évolution par le fait que Twitter avait par le passé fait l'erreur de recourir à une expertise humaine ce qui nécessite beaucoup de temps et de travail. Par ailleurs, selon Ella Irwin, Twitter restreint de manière plus agressive les hashtags et les résultats de recherche susceptibles de donner lieu à des abus dans des domaines tels que l'exploitation des enfants.

Recrudescence de la haine en ligne

Selon Reuters, cette évolution vers plus d'automatisation intervient alors que des chercheurs signalent une augmentation significative des discours haineux sur le réseau social. Un phénomène qui s'accentue depuis le rétablissement par Elon Musk des comptes suspendus sur la plateforme sous la précédente direction de l'entreprise.

Twitter évolue dans un contexte agité depuis son rachat par le propriétaire de Tesla. Les vagues de licenciements décidées par ce dernier ont réduit de moitié les effectifs mondiaux de l'entreprise qui est également confrontée à des questions cruciales sur sa capacité et sa volonté de modérer les contenus nuisibles et illégaux.

De plus, bien qu'Elon Musk ait annoncé leur retour, les annonceurs, principales sources de revenus de Twitter, ont fui la plateforme en raison de préoccupations concernant la sécurité de leur marque. Elon Musk a toutefois promis un "renforcement significatif de la modération du contenu et de la protection de la liberté d'expression" lors d'une rencontre avec le président Emmanuel Macron.

Louis Mbembe