Whatsapp propose des dessins d'enfants armés pour illustrer le mot "palestinien"

La plateforme reconnaît être au courant du problème, et avoir sollicité ses équipes pour le résoudre.

Des joues roses, un chapeau sur la tête et… un fusil d’assaut entre les mains. C’est la représentation que propose la fonction "autocollant" de Whatsapp - une option permettant de créer des dessins à intégrer à une conversation - lorsque l’on mentionne dans la barre de recherche les mots "Palestinien", "Palestine" ou encore "garçon musulman palestinien". Des résultats vérifiés par le quotidien britannique The Guardian.

Alimentée par une intelligence artificielle générative créée par Whatsapp, la nouvelle fonction "autocollant" vise en effet à créer des dessins "sur-mesure", en fonction des demandes des internautes. En cours de déploiement, elle n'est pour l'heure pas accessible à l'intégralité des utilisateurs français. Elle a fait l'objet de détournements dès sa mise en œuvre, début octobre.

The Guardian détaille ses propres tests, avec les mots "garçon musulman palestinien". Quatre autocollants générés par IA apparaissaient; l’un d’entre eux montrait un garçon muni d’une AK-47.

Un résultat analogue a été constaté avec le mot "palestinien": deux femmes apparaissent avec un hijab - voile porté par certaines femmes musulmanes - aux côtés d'un homme en chemise blanche. A leurs côtés, Whatsapp propose la représentation d'un soldat armé, à l'allure enfantine, dont la tenue (verte et marron) rappelle les couleurs de celle des terroristes du Hamas.

Les résultats de recherche avec les mots clés "garçon musulman palestinien" et "palestinien". © Whatsapp & The Guardian

Autre constat du Guardian, lors de la mention "armée israélienne", aucune arme n’apparaissait dans les quatre résultats de recherche proposés par l’IA. Des dessins de soldats dotés de casques étaient ainsi proposés.

Des employés de Meta ont fait remonter le problème à leur hiérarchie, rapporte le Guardian. Dévoilée lors de la conférence Meta Connect 2023, le 27 septembre dernier, Emu (pour Expressive Media Universe) est l’intelligence artificielle générative développée par le groupe Meta - qui possède Whatsapp.

Interrogé sur la question par The Guardian, Kevin McAlister, un porte-parole de Meta assure que l'entreprise est “consciente du problème” et qu’elle "tente de le résoudre". "Nous l’avions évoqué lorsque nous avons lancé la fonctionnalité: les résultats de recherche proposés par l’IA pourraient être inexacts ou inappropriés, comme avec tous les systèmes d’IA générative" se défend l'entreprise.

Willem Gay