"Ne plus savoir ce qui est vrai": Geoffrey Hinton regrette d’avoir créé la technologie à la base de ChatGPT

Officiellement retiré de chez Google, le docteur Geoffrey Hinton évoque désormais ses craintes sur l’intelligence artificielle, qu’il a participé à faire émerger au cours de sa carrière.

"Je me console avec l’excuse classique: si je ne l’avais pas fait, quelqu’un d’autre l’aurait fait." En 2004, Geoffrey Hinton a concentré ses efforts autour d’une idée que personne n’avait réussi à concrétiser. Il met au point le concept technologique de réseau neuronal, désormais à la base de toute intelligence artificielle.

Cette découverte lui vaut de décrocher en 2019 le prix Turing (assimilé au prix Nobel d’informatique) en compagnie de deux confrères, dont Yann Le Cun - aujourd'hui chef de l’IA chez Facebook. Mais ce lundi, Geoffrey Hinton a rejoint le camp des sceptiques. Dans une interview au New York Times, le britannique de 75 ans affiche maintenant des regrets quant à son œuvre.

"Il est difficile de voir comment on peut empêcher les mauvais acteurs de l’utiliser à des fins malveillantes", pointe Geoffrey Hinton, souvent surnommé "le parrain de l’IA".

Des photos et textes créés de toute pièce

Ces déclarations ont été faites après que le docteur Hinton ait quitté Google. Il a travaillé pendant plus de dix ans au sein de l’entreprise. Cependant, il estime pouvoir parler librement des risques engendrés par l’intelligence artificielle.

Il y a quelques semaines, des figures de la Tech (dont Elon Musk et Steve Wozniak) ont signé une pétition appelant à un moratoire sur l’IA, voulant stopper les avancées et projets pour une durée de six mois. Quelques jours plus tard, une autre tribune était mise en ligne par l’Association pour le développement de l’intelligence artificielle. Là encore, il était question des risques portés par la technologie.

Si Geoffrey Hinton n’a signé aucune des deux lettres, il reste cependant inquiet. L’une de ses principales préoccupations, ce sont les photos, vidéos et textes créés de toute pièce. Selon lui, cela pourrait mener à "ne plus être capable de savoir ce qui est vrai".

L’impact économique de l’intelligence artificielle est également au cœur de ses craintes. D’ailleurs, un rapport de la banque américaine Goldman Sachs estime que la technologie pourrait remplacer 300 millions de postes. Dans le même temps, Chris Pissarides - prix Nobel d’économie en 2010 - estime que les modèles tels que ChatGPT pourraient aider à la mise en place de la semaine de quatre jours.

Mais Geoffrey Hinton préfère rester prudent. "Cela supprime les tâches pénibles. Il se pourrait bien qu’il enlève plus que cela", conclut-il.

Pierre Monnier