"Je me sens perdu": un des pères fondateurs des IA modernes s'inquiète de leurs dangers

Après Geoffrey Hinton, c'est un autre "père fondateur" des IA modernes, le canadien Yoshua Bengio, qui s'inquiète du développement du secteur qu'il a participé à créer.

Nouveau retournement. Après Geoffrey Hinton, un des pères de l'intelligence artificielle, c'est au tour de son homologue Yoshua Bengio de se dire inquiet des progrès fulgurants des IA comme ChatGPT – et de regretter une partie de ses contributions au domaine.

Auprès de la BBC, le scientifique canadien, figure historique du secteur, dit redouter que des IA de plus en plus perfectionnées soient utilisées par des acteurs mal intentionnés. "Ça pourrait être l'armée, des terroristes, un fou très en colère... Si on peut facilement programmer ces IA pour faire quelque chose de mal, ça pourrait être très dangereux."

Pour le chercheur, le risque est d'autant plus grand si les IA deviennent plus intelligentes que l'humain: "Si elles sont plus intelligentes que nous, ce sera compliqué d'arrêter ces systèmes ou d'empêcher les dégâts."

"Pensez à la bombe atomique"

Yoshua Bengio fait partie des principaux signataires de la déclaration appelant à considérer l'IA comme un risque aussi grand que les pandémies ou la guerre nucléaire, et qui pourrait causer l'"extinction de l'humanité".

"C'est difficile émotionnellement pour ceux qui sont [dans le secteur de l'IA], surtout si comme moi vous avez bâti votre carrière, votre identité autour de l'idée d'apporter quelque chose d'utile à la société", explique le chercheur.

Malgré tout, il ne se dit pas abattu. "Ce n'est pas la première fois que les scientifiques traversent ce genre d'émotions: pensez à la Seconde Guerre mondiale et la bombe atomique."

"On peut dire que je me sens perdu", résume Yoshua Bengio. "Mais il faut continuer à avancer, et échanger, discuter, encourager les autres à penser avec vous."

"C'est exactement comme pour le changement climatique", résume le spécialiste. "On a mis beaucoup de CO2 dans l'atmosphère, on aurait mieux fait d'éviter, mais voyons ce qu'on peut faire maintenant."

Mais tous les spécialistes ne sont pas d'accord avec les inquiétudes de Yoshua Bengio. Parmi eux, le dernier des trois "pères fondateurs" de l'IA moderne: un Français, Yann Le Cun. Il assure sur Twitter que "les IA surhumaines sont loin d'être la plus grande menace pour l'humanité, en grande partie parce qu'elles n'existent pas encore", et que "tant que nous n'avons pas de plan basique pour créer une IA du niveau d'un chien (...), parler de rendre [l'IA humaine] inoffensive est prématuré".

Luc Chagnon