Mamie de 122 ans, bébés dans des choux: sur Facebook, des (dangereuses) images par IA font un carton

Les contenus générés par l'IA cartonnent auprès des utilisateurs de Facebook. Seul problème, ces images renvoient bien souvent vers des arnaques.

Jésus à base de crevettes (ou avec des pinces de crabe), un gâteau d'anniversaire pour les 122 ans de mamie ou encore des bébés enrobés de choux. Autant d'images improbables générées par l'IA qui circulent de plus en plus sur les fils d'actualité Facebook.

Spams et arnaques

Et le succès de ces images improbables est sans appel. Les commentaires se multiplient, les partages de publication aussi. Selon une étude du Stanford internet Observatory, qui a étudié 120 pages Facebook qui publient ce type de contenus, les images ont cumulé des centaines de millions de vues. En moyenne, ces pages sont suivies par près de 130.000 abonnés.

Une publication incluant une image générée par IA a été l'un des 20 contenus les plus consultés sur Facebook au troisième trimestre 2023, avec 40 millions de vues et plus de 1,9 million d'interactions. Rien que ça.

Le but de ces contenus étranges? Renvoyer les internautes vers d'autres sites remplis de publicités, vers des sites marchands proposant des produits qui n'existent pas ou pousser les utilisateurs à divulguer des informations personnelles.

Des contenus difficiles à identifier

Problème: ces contenus sont mis en avant par Facebook et apparaissent dans le fil d'actualité d'utilisateurs qui ne suivent pas ces pages. "Nous soupçonnons que les images générées par l'IA apparaissent sur les fils d'actualité des utilisateurs parce que l'algorithme de classement des fils d'actualité de Facebook favorise les contenus susceptibles de susciter l'engagement", précise les chercheurs de l'étude dans le communiqué.

De plus, la grande majorité de ces images n'indiquent pas qu'elles ont été générées par l'IA. Meta exige pourtant que les utilisateurs étiquettent le contenu généré par l'IA sur ses plateformes.

Résultat, les utilisateurs tombent dans le panneau, pour le plus grand plaisir des escrocs. En analysant les commentaires sous les publications, les chercheurs ont constaté que "de nombreux utilisateurs ne sont pas conscients de l'origine synthétique des images, bien qu'un sous-ensemble d'utilisateurs publie des commentaires ou des infographies pour tenter d'avertir les autres".

Meta n'a, pour l'instant, pas réagi sur le sujet. Face au déferlement de contenus générés par IA, la société a annoncé en février dernier vouloir lutter contre les contenus générés par l'IA. Le géant américain Meta va identifier "dans les prochains mois" toute image générée par l'intelligence artificielle (IA) qui sera publiée sur ses réseaux sociaux. Du moins, selon ses promesses.

Salomé Ferraris