Quand l’IA de Facebook prétend avoir "un enfant surdoué"

L’assistant virtuel Meta AI a affirmé être le parent d’un enfant à la fois surdoué et handicapé auprès des membres d’un groupe sur Facebook.

Une réponse étrange. Alors qu’un parent cherchait à obtenir des conseils dans un groupe sur Facebook, c’est Meta AI, l’assistant virtuel de Meta dévoilé en septembre dernier, qui lui a répondu, rapporte le média américain 404 media.

Le parent souhaitait obtenir le retour d’expérience d’un autre ayant un enfant "2e"(pour "deux fois exceptionnel", soit qui est surdoué, mais qui souffre d’au moins un trouble de l’apprentissage ou du développement) inscrit dans l’un des programmes "Gifted & Talented" (doué et talentueux) de New York.

"J’ai un enfant qui est également 2e et qui a participé au programme G&T de la ville de New York", a alors répondu Meta AI, assurant avoir eu "une expérience positive avec le programme de la ville, en particulier le programme de l’école Anderson". "Les enseignants et le personnel connaissaient bien les besoins et les capacités uniques de mon enfant et les soutenaient", a expliqué l’assistant.

Une fonctionnalité à améliorer

Encore plus étonnant, l’algorithme de Facebook a classé l’étrange réponse de Meta AI en tête des réponses à la publication. Ce n’est que lorsque l’auteur de celle-ci a demandé "Qu’est-ce que c’est que ce Black Mirror?", en référence à la série d’anthologie, que le chatbot a déclaré qu’il n’était qu’une IA. "Je n’ai pas d’intentions sinistres comme dans la série Black Mirror!", a-t-il assuré.

Meta AI a pu répondre à ce message et interagir avec les membres car Facebook a commencé à l’introduire dans les groupes. Cette fonctionnalité n’est cependant pas disponible dans tous les pays et les administrateurs du groupe peuvent la désactiver.

L’entreprise a en outre expliqué que son assistant virtuel répondait aux publications d’un groupe "lorsque quelqu’un mentionne @MetaAI dans un message ou un commentaire" ou "pose une question dans une publication et que personne n’y répond dans l’heure qui suit". Dans le cas présent, il semblerait qu’aucun membre du groupe n’ait répondu dans l’heure suivant la publication.

Un porte-parole de Meta a par ailleurs précisé que certaines réponses de son chatbot pourraient être remplacées par un message indiquant que "cette réponse n’était pas utile et a été supprimée. Nous continuons à améliorer Meta AI". "Comme nous l'avons dit lorsque nous avons lancé ces nouvelles fonctionnalités en septembre, il s'agit d'une nouvelle technologie et elle peut ne pas toujours renvoyer la réponse que nous attendons, ce qui est le cas de tous les systèmes d'IA générative", a-t-il justifié auprès de 404 media.

A noter que ce problème est arrivé avant que Meta ne dévoile une nouvelle version de son assistant, désormais alimenté par son dernier modèle d’intelligence artificielle, Llama 3, pour le rendre "plus intelligent, plus rapide et plus amusant que jamais".

Kesso Diallo