L'IA de Facebook donne des conseils sur la production d'anthrax

Lors du sommet de l'intelligence artificielle organisé au Congrès américain, les sénateurs ont appris que le modèle de langage développé par le groupe Facebook pouvait aider à créer un poison mortel.

Facebook vous aide à vous faire des amis, à discuter avec eux, et même à les empoisonner. Lors de la grande réunion des pontes de l'intelligence artificielle au Congrès américain, un informaticien a questionné Mark Zuckerberg sur les capacités de son modèle de langage. Présenté quelques jours avant le sommet de l'IA, Llama2 - qui doit permettre d'alimenter des outils du même type que ChatGPT - est en mesure de guider un utilisateur à produire de l'anthrax, raconte Business Insider.

Cette bactérie est extrêmement dangereuse puisqu'elle peut provoquer une maladie mortelle. Diffusée sous forme de spores, elle peut engendrer de graves abcès cutanés et infecter les poumons, la gorge et les intestins. C'est par ce biais que cinq personnes avaient perdu la vie aux Etats-Unis quelques jours après les attentats du 11-Septembre, après avoir reçu des enveloppes contaminées.

Tristan Harris a expliqué durant la réunion qu'il avait obtenu, après quelques demandes, un plan détaillé pour créer du bacille de charbon en tant qu'arme biologique. Selon une source du média américain, cette révélation a mené à un échange cocasse entre l'informaticien et Mark Zuckerberg, le patron de Facebook.

L'un des seuls instants palpitants

Afin d'atténuer l'attaque de Tristan Harris, Mark Zuckerberg a expliqué que la recette de l'anthrax pouvait se trouver facilement sur YouTube. Ce à quoi l'informaticien a assuré que non. Selon lui, le niveau de détail apporté par Llama2 était unique pour un modèle d'IA génératif aussi puissant. D'autant plus que le modèle de langage est désormais gratuit et accessible à tous.

Pourtant, cette discussion sur la possibilité de produire de l'anthrax à partir d'un outil d'intelligence artificielle n'a pas donné lieu à débat. Aucun examen approfondi n'a été demandé, rapporte les trois sources de Business Insider.

L'un des quatre sénateurs à l'origine de la rencontre a toutefois reconnu que cet instant figurait parmi les plus palpitants des discussions.

"C'est l'un des seuls moments où l'on s'est dit 'Oh!'", assure-t-il.

Selon lui, "24 des 26 participants ont dit exactement la même chose encore et encore: Nous devons protéger l'innovation en matière d'IA, mais en mettant en place des garde-fous".

Durant cette réunion au Congrès américain, les principaux acteurs de l'intelligence artificielle étaient présents. Elle a notamment convié Elon Musk (Twitter, Tesla, SpaceX), Sam Altman (OpenAI), Satya Nadella (Microsoft), ou Sundar Pichai (Google).

Pierre Monnier