Sexe, armes: dans Facebook Messenger, les dessins générés par IA déjà détournés

Une semaine après le lancement de l’IA générative du groupe Meta, les premières dérives sont apparues sur Messenger. Pour la plus grande joie de certains utilisateurs.

Donald Trump qui embrasse Vladimir Poutine. Le pape, une arme en main. Ou encore, le président américain, Joe Biden assis sur un fauteuil roulant. L’intelligence artificielle a, une nouvelle fois, été détournée par les internautes. Et sur Twitter, certains utilisateurs ont trouvé le contenu pour le moins amusant.

"C'est la première chose qui me donne envie d'installer Facebook Messenger", partage un utilisateur en évoquant un enlacement entre Joe Biden et Donald Trump.

"La représentation de Karl Marx avec une paire de seins m’a bien fait rire", tweete une autre.

"J’essaie encore de savoir si j’aime ça ou si je déteste ça", avoue un utilisateur en désignant une mosaïque de stickers - pour le moins - décalés.

Rien pour contrer l’imagination des utilisateurs

"C’est étonnant que l’outil de Messenger ait moins de restrictions que tout autre lié à l’intelligence artificielle", se désole un autre utilisateur. Et pour cause, les stickers générés par l’IA n’ont aucune limite. Ou du moins, l’imagination des utilisateurs de Messenger est débordante et rien n’a été fait, visiblement, pour la contrer.

Lors de la Meta Connect 2023, le 27 septembre dernier, le groupe annonçait le lancement de sa propre IA générative, Emu (Expressive Media Universe), qui lui permet, entre autres, de créer des stickers complètement personnalisés à partir de mots-clés à ajouter dans les discussions sur Messenger, Instagram et WhatsApp.

L’IA générative, un nouveau défi

C’est justement durant cette conférence que Mark Zuckerberg, le patron de Meta, avait insisté sur "les efforts à faire pour prendre toutes les précautions" vis-à-vis de cet outil, qu’il qualifiait comme un "nouveau défi".

Pour le moment, les dérives des internautes s’enchaînent. "Comme pour tous les systèmes d’IA générative, les modèles peuvent rendre des résultats imprécis ou inappropriés", avoue Andy Stone, directeur de la communication chez Meta, dans une interview pour le site VentureBeat ."Nous allons continuer à améliorer ces fonctionnalités au fur et à mesure qu’elles évoluent et que les utilisateurs partagent leurs retours". Il y a encore un peu de travail…

Thomas Leroy Journaliste BFM Business