Tiktok indique désormais les contenus générés par IA

Dans le but de lutter contre les contenus générés par de l'intelligence artificielle, Tiktok lance un label qui informe les utilisateurs.

Désormais, lorsque vous regarderez du contenu sur Tiktok, et que celui-ci a été généré par de l'intelligence artificielle, une balise "généré par l'IA" vous l'indiquera. C'est en tout cas la promesse faite par le réseau social chinois, qui se vante d'être le premier à proposer une telle fonctionnalité.

Pour mieux identifier ces contenus, Tiktok s'appuie sur le système d'identification de contenu lancé par Adobe, la Content Authenticity Initiative, qui utilise les métadonnées d'une image ou d'une vidéo. Il a été déployé au lancement de Firefly et des outils IA dans Photoshop, permettant par exemple d'ajouter un fond ou des objets sur une photo existante, sont désormais disponibles.

Une balise "généré par l'IA"

La balise "généré par l'IA" est en cours de déploiement - elle est déjà présente de longue date dans le cas de filtres spécifiques - et devrait se faire "en plusieurs phases" indique le réseau social. Dès qu'un utilisateur téléchargera du contenu identifié par ses outils comme issu de l'intelligence artificielle générative, elle sera labellisée pour ne pas tromper l'utilisateur regardant une vidéo.

Tiktok indique désormais les contenus générés par de l'IA © Tiktok

Par ailleurs, les effets IA disponibles dans l'application intègrent désormais des métadonnées pour être considérés comme tels dans d'autres applications, si elle-ci prend en charge le système d'identification de contenu.

Cette annonce intervient alors que Tiktok est pointé du doigt depuis plusieurs mois pour ses contenus visant parfois à tromper et désinformer ses utilisateurs, et ne faisant pas l'objet d'une modération. À un mois des élections européennes, le sujet est pris très au sérieux par l'Union européenne, qui a réclamé des comptes au réseau social.

Sur sa page dédiée à l'IA générative, Tiktok indique néanmoins que les contenus partagés doivent clairement l'énoncer, ce qui n'est pas toujours respecté. Avec ces outils, le géant chinois espère mettre au pas ses créateurs et s'éviter des éventuelles sanctions un peu partout dans le monde. Par ailleurs, ses règles interdisent de générer du contenu mettant en scène une personnalité publique, ce qui n'a pas empêché de faux comptes mettant en scène les visages de Marine Le Pen ou de Marion Maréchal sur des mannequins de récolter des milliers de J'aime et de vues.

Sylvain Trinel