ChatGPT: OpenAI dissout son équipe chargée de prévoir les risques de l'intelligence artificielle

Fondée par Ilya Sutskever - qui a récemment démissionné d'OpenAI, cette équipe était chargée de s'assurer que l'intelligence artificielle reste sous contrôle.

Elle ambitionnait de faire en sorte que l'homme garde le contrôle sur la machine. Mais seulement un an après sa création, l'équipe "Superalignement" d'OpenAI a été dissoute, rapporte une source proche du dossier à la chaîne de télévision américaine CNBC. Une équipe qui était ainsi chargée d'estimer et anticiper les risques de l'intelligence artificielle à long-terme.

Selon cette même source, certains membres de l’équipe ont été "réaffectés à plusieurs autres équipes au sein de l’entreprise". Une information qui n'a pas été commentée ni confirmée par OpenAI.

Cette annonce fait suite à la très récente démission du co-fondateur de l'entreprise. Mercredi dernier sur X (ex-Twitter), Ilya Sutskever annonçait quitter ses fonctions après presque dix ans passés chez OpenAI. "La trajectoire de l'entreprise a été tout simplement miraculeuse, et je suis convaincu qu'OpenAI construira une intelligence artificielle générale à la fois sûre et bénéfique", avait-il ajouté.

Diriger, réguler et gouverner

Lors d'une conférence TED sur l'IA à San Francisco l'année dernière, il estimait que "les cerveaux numériques deviendront aussi bons, voire meilleurs, que les nôtres". Et c'est justement pour empêcher cela que l'équipe "Superalignement" avait été créée.

En juillet 2023, OpenAI et Ilya Sutskever s'étaient concentrés sur l'épineuse question du contrôle d'une IA plus intelligente que les humains. Pour y parvenir, ils avaient lancé cette équipe pour diriger et réguler les différents systèmes d'intelligence artificielle. Le programme pesait 10 millions de dollars de budget.

"C'est un objectif ambitieux et nous ne sommes pas assurés d'y parvenir. Seul un effort ciblé et concerté pourra résoudre le problème d'une IA trop intelligente. De nombreuses mesures se sont révélées prometteuses lors d'expériences préliminaires", assurait alors le communiqué d'OpenAI.

L'équipe était dirigée par Ilya Sutskever et suppléée par Jan Leike, l'un des chercheurs en chef d'OpenAI (qui a, lui aussi, annoncé son départ de l'entreprise).

Lors de sa dernière conférence, l'entreprise américaine a dévoilé ChatGPT-4o. Une nouvelle version de son chatbot star, accessible à tous. Capable de discuter comme un humain, traduire des discussions de manière instantanée et commenter un flux vidéo en temps réel, il est "plus fort et plus rapide" que son prédécesseur, assure l'entreprise.

Willem Gay