L'App Store et le Google Play Store suppriment des applications pour créer des "nudes" grâce à l'IA

Pour stopper la polémique naissante autour d'applications promettant de "mettre à nue" des personnes en photo, Google et Apple ont supprimé plusieurs d'entre elles.

L'intelligence artificielle et ses dérives peuvent avoir des limites. Google et Apple, à leur niveau, ont décidé de mettre le holà en faisant la police sur leur boutique d'applications. Selon une enquête du site 400 Media, repérée par Journal du Geek, les deux géants ont supprimé des applications promettant de créer des "nudes" grâce à l'IA.

Le média avait mis en lumière ce type d'applications permettant de "déshabiller" des personnes à partir de photo ou de "les mettre à nue" en collant leur visage sur un autre corps avec l'aide de l'IA. 400 Media avait également pointé du doigt la promotion massive faite sur Instagram et des sites pour adultes. D'autres publicités avaient aussi été repérées sur X (ex-Twitter).

Un problème récurrent depuis 2022

Des avertissements ont été envoyés aux développeurs par Apple et Google avant que des sanctions soient prises pour manquement aux règles des Stores. Et de remettre ainsi sur la table la question des "deepfakes" vidéo ou photo créés par IA, posant des problèmes "éthiques et légaux significatifs".

Plusieurs états américains ont commencé à légiférer sur la question des contenus sexuels explicites générés par IA et les dégâts psychologiques ou autres occasionnés sur les victimes. Plusieurs élus en avaient appelé aux plateformes pour prendre aussi en compte le problème et intervenir.

Depuis 2022, ce genre d'applications existe et a été signalé sur le Google Play Store et l'App Store, mais sans réaction des géants du secteur. Selon le média, Apple aurait ainsi supprimé trois applications après qu'elles ont été dévoilées dans des articles. Le rapport d'enquête évoque également cinq publicités pour ce genre d'applications repérées dans la bibliothèque publicitaire de Meta (deux vers des services Web proposant ces possibilités, trois vers des applications de l'App Store). Meta a rapidement supprimé les publicités incriminées.

Melinda Davan-Soulas