Fiabilité, réglementation... 4 choses à savoir sur les limites de l’IA générative

Désormais, les IA génératives telles que ChatGPT, ou Midjourney sont démocratisées. Cependant, malgré leurs prouesses remarquables, il reste des points sur lesquels ces technologies peuvent être améliorées. Polytechnique Insights, la revue de l'institut Polytechnique, décrypte les enjeux de cette technologie.

1• Les IA génératives peuvent "halluciner"

Les IA génératives se perfectionnent chaque jour, mais la fiabilité des réponses données est encore incertaine. Bien qu’elles calculeront toujours plus vite que nous, leur intelligence n’est pas comparable à l’intelligence humaine par manque de vraie compréhension des informations contenues dans les données qu’elles traitent. Des erreurs peuvent se produire.

Éric Moulines, professeur en apprentissage de statistique à l’École polytechnique (IP Paris) admet que "ce type d’IA est incapable d’évaluer la véracité des réponses qu’elle donne et il est possible [pour ChatGPT] de générer des contenus qui semblent plausibles, mais qui sont rigoureusement faux". Ce phénomène, dit d’"hallucinations", s’explique par des erreurs ou des biais dans les bases de données d’entraînement.

2• Les IA génératives consomment de l’énergie

Comme pour tout traitement de "big data" en numérique, les IA génératives fonctionnent grâce à d’énormes serveurs qui nécessitent beaucoup d’énergie et requièrent des méthodes de refroidissement énergivores. Avec un nombre toujours croissant d’usagers, ce besoin ne fait que grandir.

"L’IA générative ne pourra se développer sans une remise en question de son empreinte écologique", assure Laure Soulier maîtresse de conférences à Sorbonne Université. Ainsi, les scientifiques travaillent déjà sur l’optimisation de ces systèmes avec de l’"IA frugale". Le but: réduire les ressources nécessaires à leur fonctionnement afin de limiter au maximum leur empreinte carbone.

3• Les IA génératives nécessitent un encadrement

Pour créer du contenu original comme du texte ou de l’image, les IA génératives établissent des liens et font des déductions en s’appuyant sur une base de données préexistante. De ce fait, il y a un risque persistant concernant la sécurité des données. La majorité des IA génératives sont américaines et sont donc hébergées sur des serveurs outre-Atlantique.

En vertu du "Patriot Act" et du "Cloud Act", ces données peuvent, en principe, être récupérées par les autorités américaines. Cela représente un risque, en particulier pour les entreprises, qui voient la sécurité et la confidentialité de leurs données menacées. En 2023, le Parlement européen s’est mis d’accord sur un premier "AI Act" qui encadrera leur usage sur le territoire européen.

4• Les IA génératives ne pourront pas remplacer l’Humain

Certes, certains métiers tendent à disparaître avec cette technologie, comme ce fut le cas dans les secteurs de l'information et des médias, de la musique ou encore des services avec la première vague innovations dans l’IA. Avec l’IA générative, les emplois menacés sont caractérisés par des tâches répétitives et non-intellectuelles. Ces IA permettront de libérer du temps, au profit de la productivité.

"Les employés de centres d’appels, les secrétaires, les opérateurs de saisie, des activités linéaires et simples, avec peu de variations dans les tâches, peu d’interactions avec autrui, pourraient être remplacés par des bots", précise Janine Berg économiste à l'Organisation internationale du travail de l'ONU. Ainsi, de nouveaux métiers émergeront de cette révolution numérique conduisant à une évolution et non à une perte d’emploi.

Ce contenu n'est pas proposé par la rédaction de BFM Business, mais par notre partenaire Polytechnique Insights – La revue de l’Institut Polytechnique de Paris.

Polytechnique Insights