Intelligence artificielle: OpenAI va lancer un outil pour détecter les images créées par DALL-E 3

La startup californienne va lancer un outil capable de détecter si une image a été créée en utilisant son générateur d'images. L'objectif: lutter contre la désinformation en pleine période électorale.

Katy Perry au Met Gala 2024, le pape en doudoune, Emmanuel Macron qui ramasse les poubelles... Depuis un an, les images générées par l'intelligence artificielle (IA) se multiplient sur les réseaux sociaux.

Des clichés qui posent la question de la diffusion de fausses informations en pleine période électorale. En effet, avec les avancées technologiques, et notamment l'arrivée du logiciel DALL-E 3, les images synthétiques sont de plus en plus difficiles à différencier des clichés authentiques.

Pour contrer cela, OpenAI lance un outil capable de détecter si une image a été créée en utilisant son générateur d'images DALL-E 3, a déclaré mardi la startup selon les informations de Reuters.

Selon l'entreprise californienne soutenue par Microsoft, l'outil identifierait correctement les images générées par son logiciel dans 98% des cas lors de la phase de test. Les micro-changements, comme la compression, le recadrage et les changements de saturation peuvent également être détectés par l'outil.

Pour plus de sécurité, OpenAI prévoit également d'ajouter un filigrane inviolable pour identifier les contenus numériques tels que les photos ou les fichiers audio.

Lutter contre la désinformation

Un outil qui vient confirmer la volonté de l'entreprise de lutter contre la désinformation. En effet, en janvier dernier, OpenIA avait annoncé vouloir lancer des outils pour combattre les deepfakes avant les dizaines de scrutins prévus cette année dans divers pays où vit presque la moitié de la population mondiale.

"Nous voulons être certains que notre technologie ne sera pas utilisée de manière à porter atteinte au processus démocratique", expliquait OpenAI en janvier sur un blog.

Pour rappel, DALL-E 3 contient des garde-fous pour empêcher les utilisateurs de générer des images de personnes réelles, notamment de candidats. Dans les mois à venir, la startup devrait également déployer un outil pour déterminer de manière fiable la provenance d'un texte généré par ChatGPT. Selon OpenAI, le chatbot, lorsqu'il sera interrogé sur les élections américaines, orientera également les électeurs vers des sites reconnus.

Parallèlement, OpenAI a rejoint la Coalition pour la provenance et l'authenticité des contenus, dite C2PA. Microsoft, Sony, Adobe, Nikkon et Canon en font également partie. Leur objectif? Fournir une norme qui aidera à retracer l'origine des différents médias.

De leurs côtés, les géants américains Google et Meta ont déjà annoncé l'an dernier des initiatives pour cadrer l'utilisation de l'IA dans les campagnes politiques.

Salomé Ferraris