"Je suis mort ce jour-là": aux États-Unis, une IA fait parler des enfants tués dans des fusillades

Joaquin Oliver et cinq autres victimes de violences armées ont vu leurs voix recréées par l'intelligence artificielle. Les messages sont ensuite directement envoyés aux législateurs.

"Il y a six ans, j'étais alors en classe de terminale à Parkland, des étudiants et des professeurs ont été tués le jour de la Saint Valentin par un homme muni d'un fusil d'assaut AR-15". Ce témoignage glaçant est celui de Joaquin Oliver, l'une des 17 victimes de Nikolas Cruz pendant la fusillade de Parkland, en février 2018.

"Je suis mort ce jour-là, mon corps a été déchiré par les balles d'une arme de guerre. Mais je suis de retour, car mes parents ont utilisé l'intelligence artificielle pour recréer ma voix afin que je vous appelle", poursuit le jeune homme d'un ton oratoire.

Comme lui, cinq autres victimes d'armes à feu ont vu leurs voix recréées par l'intelligence artificielle (une méthode baptisée "deepfake audio"). Toutes diffusent un message qu'il est possible d'écouter sur le site The Shotline (La ligne de tire).

Faire pression sur les élus

The Shotline, c'est le combat des parents de Joaquin Oliver - Manuel et Patricia - pour faire pression sur les élus américains, afin d'encadrer la vente d'armes à feu. Le message de Joaquin a, pour la première fois, été diffusé le mercredi 14 février. Six ans jour pour jour après la fusillade de Parkland.

"Il s'agit d'un problème majeur aux États-Unis et nous n'avons pas été en mesure de le résoudre. Si nous devons utiliser des choses effrayantes pour venir à bout de ce problème, et bien je dis 'bienvenue dans l'effrayant'", explique Manuel Oliver au Wall Street Journal.

Mais au-delà d'une diffusion sur le site internet The Shotline, ces deepfakes audio ont vocation à atterrir directement dans le téléphone des législateurs, grâce à des "appels automatisés". Sur le site, les internautes sont invités à inscrire leur code postal, afin de faire envoyer automatiquement un message reprenant la voix d'une des six victimes à leur élu local.

Pour créer ces deepfakes audio, Manuel et Patricia Oliver ont utilisé le générateur de voix par IA, ElevenLabs. Lancée en 2022, la start-up a connu un élan de popularité au tout début de l'année 2023, occasionnant aussi des dérapages.

Les parents de Joaquin ont indiqué au Wall Street Journal avoir utilisé des échantillons de voix issus de vidéos sur les réseaux sociaux de leur fils.

Mati Staniszewski, cofondateur d'ElevenLabs, a déclaré au Wall Street Journal que son logiciel permet aux gens de recréer des voix de proches décédés "s'ils en ont les droits et autorisations". Une autorisation qui a bien entendu été accordée par les parents des cinq autres victimes à ceux de Joaquin Oliver pour utiliser leur voix.

Willem Gay