TikTok durcit ses règles contre les deepfakes générés par intelligence artificielle

TikTok est depuis peu envahi de vidéos utilisant des IA pour reproduire les voix de personnalités comme Donald Trump, Joe Biden ou Barack Obama.

TikTok sonne la fin de la récréation. Le réseau social a dévoilé ce mardi une nouvelle version de ses Règles communautaires. Parmi ses objectifs: encadrer fortement la publication de contenus créés par intelligence artificielle.

Ces contenus ont récemment envahi les recommandations de nombreux internautes. Des vidéos cumulant des millions de vues reproduisent notamment les voix de personnalités connues comme Donald Trump, Joe Biden, ou de personnages fictifs comme le héros de Dragon Ball, pour les mettre dans des situations parodiques – jouant à Minecraft, dans un parc d'attraction, ou discutant de leurs dessins animés favoris.

La plateforme, menacée d'interdiction aux États-Unis, a ajouté à ses règles une nouvelle section dédiée aux "médias synthétiques et manipulés", comme l'a repéré le média américain The Verge. Dans cette section, TikTok déclare notamment interdire "les médias synthétiques qui présentent le portrait d'une personnalité privée".

En résumé, il sera bientôt interdit d'utiliser des systèmes comme l'IA de création d'images Midjourney, ou de reproduction de voix Eleven Labs, pour imiter le visage ou la voix de personnes anonymes sur TikTok. Ces nouvelles règles prendront effet le 21 avril.

Une exception pour les personnalités publiques

TikTok fait cependant une exception pour les "personnalités publiques ayant un rôle public important", comme "un politicien, un chef d'entreprise [ou] une célébrité". Des vidéos qui utilisent l'intelligence artificielle pour les imiter pourront toujours être publiées, à part si "le contenu est utilisé à des fins de promotion ou enfreint toute autre politique", notamment en matière de discours haineux, de contenus à caractère sexuel ou de harcèlement.

TikTok appelle ses utilisateurs à signaler les deepfakes qui ne mentionnent pas leur caractère artificiel. "Les médias synthétiques ou manipulés exposant les scènes réalistes doivent être manifestement dénoncés", déclarent les Règles communautaires, qui recommandent notamment d'utiliser un sticker ou une légende "synthétique", "faux", "irréel" ou "modifié" pour une transparence vis-à-vis des utilisateurs.

Luc Chagnon