Taylor Swift victime d'un deepfake pornographique sur les réseaux sociaux

Une fausse vidéo générée par l'intelligence artificielle et à caractère pornographique met en scène l'artiste Taylor Swift.

Après l'arnaque permettant de récupérer des données bancaires, Taylor Swift est de nouveau victime de l'intelligence artificielle. Sur le réseau social X (anciennement Twitter), la chanteuse fait en effet l'objet d'une vaste campagne de spam autour d'une fausse vidéo à caractère pornographique, dans lequel elle est mise en scène.

Selon The Verge, l'une de ces vidéos a atteint les 45 millions de vues et a été repostée plus de 24.000 fois avec des centaines de milliers de J'aime. Le compte concerné a depuis été banni de la plateforme, mais la publication était en ligne depuis près de 24 heures avant que la décision ne soit prise.

Une vidéo partagée massivement

Le site spécialisé 404 Media révèle que l'origine de la vidéo provient d'un groupe Telegram, dans lequel des utilisateurs se partagent des médias générés par l'IA de Microsft Designer. L'un de ces membres aurait d'ailleurs été vu en train de se moquer de l'important succès de cette fausse image de Taylor Swift sur X.

Le réseau social détenu par Elon Musk a depuis communiqué sur le sujet, expliquant qu'il n'était pas autorisé de partager du contenu sexuel "non consensuel" et que leurs équipes étaient en train de supprimer "activement" toutes les occurrences. À l'heure de l'écriture de ces lignes, de nombreuses publications montrant la vidéo ou des liens Telegram pour la voir étaient encore en ligne, d'autant plus que la plateforme a procédé au licenciement d'une bonne partie de ses salariés dédiés à la modération, tout en allégeant considérablement ses règles. Pour cela, X fait l'objet d'une vaste enquête de l'Europe.

Une situation qui a suscité la polémique, notamment chez les fans de Taylor Swift, qui ont alors pris la parole pour tenter d'endiguer à leur manière le problème. Ils ont ainsi utilisé les mêmes mots-clefs que ceux partageant la vidéo afin de poster des images bien réelles et non-explicites de l'artiste. Très actifs, les "Swifties" ont ainsi inondé les réseaux sociaux.

La plupart des intelligences artificielles génératives disponibles auprès du grand public restreint la possibilité de créer des contenus pornographiques, mais cette affaire montre à quel point il va devenir difficile de contenir ce type de médias à l'avenir.

Sylvain Trinel