Les photos porno générées par IA, nouvelles armes pour extorquer de l'argent aux ados

L'Office des mineurs a enregistré une hausse de plus de 470% des signalements liés à l'utilisation d'images pornographiques pour extorquer de l'argent à des mineurs.

Un an après l'arrivée de ChatGPT, l'impact de l'intelligence artificielle sur la vie quotidienne n'est plus à prouver. Mais souvent, c'est à des fins néfastes que la technologie est utilisée.

Depuis plusieurs mois, des images à caractère pornographique sont créées de toutes pièces en y intégrant des visages bien réels. L'objectif est de placer une personne dans l'embarras avec l'espoir d'en tirer profit. Les personnes à l'origine des images trafiquées réclament de l'argent aux victimes, les menaçant d'une diffusion sur internet.

"Nous avons constaté en un an une augmentation de plus de 470% des signalements. Nous sommes passés de 1.174 en 2022 à 5.549 en 2023", détaille au Parisien Véronique Béchu, la cheffe du pôle stratégique de l'Office des mineurs.

Un chiffre qui concerne toutefois l'ensemble des signalements liés à de l'extorsion basée sur des images à caractère sexuel, sans que l'on puisse encore déterminer la part des contenus générés par IA.

35 minutes pour un paiement

En revanche, l'utilisation de l'intelligence artificielle se révèle être une arme redoutable en matière d'extorsion. La commandante de police assure qu'en moyenne, il s'écoule seulement 35 minutes entre la réception d'une photo ou vidéo à caractère sexuel générée par IA, et le paiement de la somme réclamée par les escrocs.

"La jeune victime a beau savoir qu’elle n’a jamais envoyé ces images, elle est seule, perdue et voit seulement les répercussions d’une telle diffusion" déplore ainsi Véronique Béchu, évoquant des cibles principalement âgées de 14 à 17 ans.

Depuis septembre, les exemples se multiplient à travers le monde. D'abord en Espagne où la police a ouvert une enquête après la diffusion d'images à caractère sexuel, générées par IA, et intégrant les visages d'enfants. L'Équateur en a fait de même après avoir découvert plus de 700 vidéos mettant en scène les élèves d'un établissement scolaire.

En France, le projet de loi SREN sur la sécurisation et la régulation de l'espace numérique a interdit la diffusion de fausses images ou vidéos à caractère pornographique (article 5 ter). Cette mesure a été adoptée en première lecture par le Sénat et l'Assemblée nationale.

Une commission mixte paritaire doit désormais entériner ces nouvelles lois dans le droit français. Dès lors, ces actes seront sanctionnés de deux ans d'emprisonnement et de 60.000 euros d'amende.

Pierre Monnier