Google va lancer des outils pour identifier les images générées par IA

Lors de sa conférence annuelle Google I/O, le géant californien a présenté deux nouvelles fonctionnalités d’identification des images créées de toutes pièces par des IA génératives. Une initiative qui fait écho à la volonté exprimée par l’Union européenne de rendre obligatoire ces outils de détection.

Vous n’avez sûrement pas manqué ces clichés insolites du pape en doudoune Balenciaga ou encore Emmanuel Macron habillé en éboueur… Nombreux ont été les internautes à tomber dans le panneau, dupés par le réalisme hors norme dont les intelligences artificielles génératives font preuve. Midjourney, Dall-E, Craiyon ou encore Bing Image Creator, les IA ne manquent pas pour produire des fausses images et potentiellement tromper l’internaute.

Google a décidé de s’attaquer au problème et a annoncé lors de sa conférence annuelle des développeurs Google I/O organisée la semaine dernière la mise en place de deux nouveaux outils pour détecter les fausses images. Une initiative censée prendre les devants de l’Union européenne et son futur règlement sur l’intelligence artificielle.

Deux nouvelles options dans Google Images

La groupe de Mountain View devrait très vite intégrer une première fonctionnalité permettant de rendre visible la source des résultats affichés dans Google images. Une mention "À propos de cette image" devrait apparaître pour retracer plus facilement son origine. Une fonction de recherche inversée qui existe déjà depuis longtemps, à l’image des services proposés par exemple par TinEye. À noter également que Google Images et Google Lens proposaient aussi déjà cette fonction mais l’idée ici est de la rendre plus accessible.

La deuxième mesure prise par Google concerne un marqueur "AI Generated with Google" sur toutes les images générées par l’IA de Google et ses concurrents comme Midjourney, Dall-E, Craiyon ou encore Bing Image Creator de Microsoft. De son côté, Microsoft a aussi mis en place l’intégration d’un marqueur Bing similaire et TikTok demande à ses utilisateurs de marquer les publications qu’ils qualifient de "synthétique", "faux", "irréel" ou "modifié". D’autres plateformes comme Facebook ou Twitter ne se sont pas manifestées sur le sujet mais le contexte pourrait très vite les rattraper.

Reste à savoir comment Google compte s'y prendre pour faire la différence entre une photo synthétique et une photo réelle.

Un front commun face à la prolifération de faux contenus

La génération automatique d’image peut être ludique et rend la créativité accessible en un clic, sans besoin de connaissances sur Photoshop. Mais cela peut aussi être utilisé à des fins moins vertueuses: à l’image de cette fausse photo d’un vieillard ensanglanté pendant une manifestation devenue virale et amplifiant la dissension sur le sujet des violences policières en France.

Face à l’explosion du recours à son IA - notamment à des fins de désinformation - Midjourney a par exemple été contraint en mars dernier de fermer l’accès gratuit à ses services. Si le problème ne semble avoir été réglé que partiellement, cet épisode a fait remonter la nécessité d’une meilleure modération de ces IA dans l’agenda européen.

En effet, les députés européens viennent tout juste d’adopter le règlement européen sur l’intelligence artificielle et ont nécessairement dû inclure en cours de route les nouveaux sujets autour de l’IA générative. Le vote en plénière du texte est prévu courant juin et l’Union européenne espère une entrée en vigueur dès l’année prochaine pour montrer l’exemple en matière de régulation de l’IA.

Pierre Berthoux