Sur Amazon, des livres rédigés par IA peuvent donner des conseils particulièrement dangereux

Des experts alertent sur la vente de livres dédiés à l'identification et la consommation des champignons. Rédigés par une intelligence artificielle, ils peuvent contenir des propos erronés.

Récolter des champignons dans la forêt peut souvent être tentant lors d'une balade le dimanche. Mais ce n'est toutefois pas sans risque, car avec environ 5000 espèces de champignons sur le sol français, difficile parfois de différencier ce qui peut être mangé de ce qui est à éloigner de son estomac.

Des guides existent toutefois pour tenter de démêler le bon du mauvais, comme Wild Mushroom Cookbook: un guide du débutant pour apprendre les bases de la cuisine avec des champignons sauvages avec des recettes complètes, faciles à suivre, bonnes pour la santé et la gourmandise!, disponible sur Amazon. Sauf que ces ouvrages publiés se révèlent parfois être écrits par intelligence artificielle, comme le rapportent la Société mycologique de New York et 404 Media.

"Une question de vie ou de mort"

De nombreux livres sur le sujet récemment mis en ligne sur Amazon ont ainsi ChatGPT pour même auteur, sauf que cela n'est signifié à aucun moment dans le descriptif des ouvrages. Pourtant, une recherche via des outils de détection de texte écrit par IA suggère que certains passages des guides ont été écrits par des chatbots.

Certains "auteurs" des différents ouvrages sont également suspectés d'avoir utilisé une intelligence artificielle génératrice d'images pour leur photo d'auteur, afin d'accentuer leur crédibilité auprès du public.

Sur Twitter (rebaptisé X), la Société new-yorkaise spécialisée dans les champignons indique ainsi avoir eu connaissance de la mise en vente sur Amazon - et d'autres sites - de guides de cueillette de champignons, mais aussi de plantes, écrits par IA.

"S'il vous plaît, n'achetez que des livres d'auteurs et cueilleurs connus, c'est littéralement une question de vie ou de mort", alarme même la société.

Le trésorier de la société, Elan Trybuch, précise en effet à 404 Media que l'intelligence artificielle n'est pas capable de discerner les différences entre un champignon comestible et un champignon toxique, qui peuvent parfois être très subtiles en raison de la ressemblance entre certains spécimens.

Amazon retire certains ouvrages

Si des applications spécialisées permettent aujourd'hui grâce à une photo d'identifier à quel champignon vous avez affaire après une balade en forêt, le mieux reste toutefois de demander conseil auprès d'un pharmacien ou d'un mycologue.

La Société mycologique de France, spécialisée dans l'étude des champignons dans l'Hexagone, propose aussi sur son site une liste des champignons toxiques et comestibles. De quoi s'assurer un bon repas sans désagrément.

Interrogé par 404 Media, Amazon indique avoir déjà retiré de la vente plusieurs "faux" ouvrages dédiés au sujet. "Amazon évalue constamment les technologies émergentes et s'engage à fournir la meilleure expérience d'achat, de lecture et de publication possible à nos auteurs et clients", souligne l'entreprise américaine.

"Tous les éditeurs de la boutique doivent respecter nos directives en matière de contenu, quelle que soit la manière dont le contenu a été créé. Nous investissons beaucoup de temps et de ressources pour garantir le respect de nos directives et supprimons les livres qui ne respectent pas ces directives", ajoute Amazon.

Une des contraintes pour Amazon réside surtout dans la quantité de livres publiés ces derniers mois et impliquant des IA. Une autrice américaine a par exemple vu il y a quelques semaines des ouvrages publiés en son nom, alors qu'ils avaient été écrits par un de ces algorithmes.

Et même sans inclure de l'usurpation d'identité ou des conseils de cueillette douteux, les livres écrits ou co-écrit par ChatGPT, ou autre IA génératrice, ont fait une apparition remarquée sur les plateformes de vente en ligne comme Amazon. Au grand désarroi des maisons d'édition, pendant un temps submergées par les manuscrits écrits en un claquement de doigts par certains internautes.

Julie Ragot