Midjourney va bloquer la création d'images de Joe Biden et Donald Trump

Il n'est plus possible de soumettre les prompts "Joe Biden" et "Donald Trump" à l'IA générative . Une décision de Midjourney pour limiter la désinformation électorale.

David Holz, le PDG de Midjourney, prévoyait cette mesure dans "les 12 prochains mois", avant le scrutin final des élections américaines du 5 novembre prochain. Mais l'interdiction de création d'images politiques est bel et bien déjà effective. Repérée par l'Associated Press, elle empêche donc de soumettre de créer de fausses images du président Joe Biden et de l'ancien président Donald Trump, pour éviter de perturber le cours des élections.

Une mesure de modération temporaire

"Ce truc de modération est plutôt difficile", a déclaré David Holz lors d'une conférence de presse ce mercredi. Si aucune précision n'a été donnée sur les prochaines étapes, ce dernier estime que cette mesure temporaire permet déjà de limiter les abus de son intelligence artificielle générative. Ainsi, lorsque vous soumettez une phrase avec Joe Biden ou Donald Trump à Midjourney, l'avertissement "Prompt interdit détecté" s'affiche à l'écran. Si vous réitérez, un deuxième avertissement vous informe que "vous avez déclenché une alerte d'abus".

"Je ne me soucie pas vraiment du discours politique. Ce n'est pas le but de Midjourney. Cela ne m'intéresse pas vraiment. Cela dit, je ne veux pas non plus passer tout mon temps à essayer de contrôler le discours politique. Nous allons donc mettre un peu le holà sur le sujet", a déclaré David Holz, PDG de Midjourney, lors d'une conférence de presse le 13 mars.

Une mesure d'autant plus bienvenue depuis la sortie de la version 6.0 (en décembre 2023) de Midjourney qui passe un cran en matière de réalisme avec des portraits encore plus détaillés, des flous arrières ou encore des rendus de lumière améliorés.

Un rapport récent du Center for Countering Digital Hate s'est employé à tester plusieurs générateurs d'images, dont Midjourney, sur leur capacité à bloquer les prompts favorisant la désinformation électorale. Dans 41% des cas, les images générées par l'organisation à but non lucratif ont permis d'intégrer de la désinformation électorale. Midjourney étant le pire sur la question, avec un taux de désinformation atteignant les 65%.

Pierre Berthoux