Europol avertit du risque de l'exploitation des "deepfakes" par le crime organisé

L'office européen de police craint que les moyens donnés aux forces de l'ordre ne soient pas suffisants face à une technologie qui s'améliore rapidement.

Le "deepfake" pourrait devenir un outil de base pour le crime organisé, a averti, jeudi 28 avril, un rapport Europol, appelant les forces de l'ordre à faire de la lutte contre l'utilisation criminelle de cette technologie numérique une priorité.

"Les progrès de l'intelligence artificielle et la disponibilité publique de grandes bases de données d'images et de vidéos signifient que le volume et la qualité du contenu "deepfake" augmentent", a déclaré l'office européen de police.

Le "deepfake" ou "hypertrucage", une technique de synthèse multimédias reposant sur l'intelligence artificielle et permettant de créer des simulations ultra réalistes de personnes réelles en remplaçant un visage par un autre ou une voix par une autre, "facilite la prolifération des crimes", a averti Europol.

Europol donne dans un rapport détaillé plusieurs exemples contemporains d'utilisation criminelle de la technologie, notamment la désinformation, falsification de preuves, fraude documentaire et la production de pornographie non consensuelle.

Le rapport raconte comment des criminels ont utilisé un audio "deepfake" pour se faire passer pour le PDG d'une entreprise, afin de faire transférer 35 millions de dollars (33,3 millions d'euros) à un employé.

Priorité absolue

"La prévention et la détection des 'deepfakes' doivent être la priorité absolue des forces de l'ordre", a souligné Europol.

Une grande partie du contenu "deepfake" créé aujourd'hui est identifiable grâce à des méthodes manuelles qui reposent sur des analystes humains identifiant des signes révélateurs dans des images et des vidéos deepfake, selon l'office.

Cependant, cette tâche nécessitant une main-d'oeuvre importante n'est pas réalisable à grande échelle.

Europol soutient que les forces de l'ordre devront améliorer les compétences et les technologies à la disposition des agents s'ils veulent suivre le rythme de l'utilisation criminelle des "deepfakes".

Des exemples de ces nouvelles capacités vont du déploiement de garanties techniques et organisationnelles contre la falsification vidéo à la création de logiciels de détection de "deepfake" qui utilisent l'intelligence artificielle.

Victoria Beurnez avec AFP