Facebook: des visages créés par une intelligence artificielle utilisés à des fins de propagande

Dans sa lutte contre la désinformation, Facebook se retrouve de plus en plus souvent confronté à des profils générés par des machines.

Facebook a annoncé mardi avoir supprimé de faux comptes, groupes et pages originaires de Chine qui publiaient notamment des contenus liés à l'élection présidentielle américaine de novembre. Certains d'entre eux étaient illustrés par des images d'individus aux visages générés par ordinateur.

"Nous avons retiré 155 comptes, 11 pages, 9 groupes et 6 comptes Instagram pour avoir enfreint nos règles contre l'ingérence d'acteurs ou de gouvernements étrangers", a indiqué Nathaniel Gleicher, responsable de la politique de sécurité de Facebook. 

Des visages virtuels largement utilisés

L'activité de ce réseau, suivi en tout par 133.000 comptes, se concentrait essentiellement aux Philippines et en Asie du sud-est, mais également, dans une moindre mesure, aux Etats-Unis. Soit une goutte d'eau dans l'océan de fausses informations qui inonde le réseau social.

Mais comme l'explique un rapport de l'entreprise d'analyse Graphika, plusieurs dizaines de ces comptes frauduleux étaient illustrés par des portraits d'utilisateurs fictifs générés par ordinateur. Ce qui évite notamment d'utiliser des photos déjà présentes sur le réseau social et d'alerter les algorithmes de Facebook.

Un visage généré par ordinateur et utilisé à des fins de propagande sur Facebook © Graphika

Le rapport constate toutefois que le rendu peut être imparfait, à cause de détails qui manquent parfois de naturel, par exemple en raison de la présence d'une paire de lunettes ou d'un second plan peu réaliste. Sur Twitter, l'un des auteurs du rapport souligne que ces utilisateurs virtuels sont monnaie courante dans ce type d'opérations.

Une campagne très limitée

Des messages positifs ou négatifs sur différentes personnalités politiques, dont le président américain Donald Trump et son adversaire démocrate à la présidentielle Joe Biden, ont été diffusés.

Mais les contenus concernant la politique américaine étaient peu nombreux et les comptes et pages n'étaient suivis que par une faible audience aux Etats-Unis, a précisé Facebook.

Les publications portaient en effet essentiellement sur des sujets asiatiques, dont les intérêts de Pékin en mer de Chine méridionale et l'activité des navires militaires américains dans cette zone ou encore la situation à Hong Kong. Ils incluaient aussi des messages de soutien au président philippin Rodrigo Duterte ainsi que des louanges et des critiques de la Chine.

Nathaniel Gleicher a précisé que l'enquête menée par Facebook avait révélé que ce réseau était opéré par des individus dans la province de Fujian, dans le sud-est de la Chine, mais que le gouvernement chinois n'était pas impliqué. Au total, le réseau n'a dépensé que 60 dollars, payés en yuans, pour sa campagne publicitaire sur la plateforme. 

Facebook a également affirmé avoir retiré une autre campagne de manipulation issue des Philippines, visant essentiellement un public local.

https://twitter.com/GrablyR Raphaël Grably avec AFP Rédacteur en chef adjoint Tech & Co