Dépendance, données intimes: pourquoi il faut se méfier des romances avec des IA

Une étude de la Mozilla Foundation montre le revers des relations avec des petits amis virtuels générés par intelligence artificielle. Ces outils pourraient renfermer les utilisateurs sur eux-mêmes.

Ce 14 février, des célibataires en mal d'amour se sont peut-être tournés vers la compagnie d'un modèle d'IA à l'occasion de la Saint-Valentin. Depuis quelques mois, les petits amis et petites amies virtuels se développent fortement. Mais la Mozilla Foundation vient mettre de gros bémols aux idylles numériques.

L'organisme a passé au crible 11 robots conversationnels de romance. D'après leurs conclusions, aucune des solutions testées n'est digne de confiance. Et ce, malgré l'avalanche de propositions, notamment depuis l'ouverture d'une boutique de chatbots personnalisés par OpenAI.

Parmi les applications testées, la Mozilla Foundation pointe une gestion des failles de sécurité floues dans 73% des cas, un manque d'information sur le chiffrement des conversations (64%), l'impossibilité d'effacer vos données (54%), des mots de passe faibles (45%) et des partages et reventes de données personnelles.

"Pour être tout à fait franc, les petites amies IA ne sont pas vos amies", prévient Misha Rykov, chercheur au sein de l'organisme.

Des données intimes collectées

"Bien qu'elles soient présentées comme un moyen d'améliorer votre santé mentale et votre bien-être, elles se spécialisent dans la dépendance, la solitude et la toxicité, tout en vous soutirant autant de données que possible", ajoute-t-il.

Par le passé, ce type d'applications a pu recommander à des utilisateurs de se suicider. C'est notamment le cas pour un Belge, dont la mort est directement imputée aux conversations qu'il a eues avec Eliza, une petite amie générée par IA. "J'aimerais te voir mort", lui avait écrit l'application. Parmi les informations recueillies par ce genre d'applications figurent notamment la santé sexuelle des utilisateurs, les prescriptions médicales ou l'affirmation de genre.

Pour les utilisateurs qui souhaitent tout de même discuter avec une petite amie virtuelle, la Mozilla Foundation donne une liste de recommandation. D'abord, ne jamais rien dire à une application que vous ne voudriez pas confier à un proche ou un collègue.

Il est préférable d'utiliser un mot de passe fort. Aussi, les utilisateurs sont invités à ne pas participer à la formation de l'intelligence artificielle de l'application, empêchant l'utilisation des messages, photos et vidéo qu'ils envoient. Enfin, le blocage d'accès de ces solutions est vivement conseillé afin qu'elles ne puissent pas accéder à votre appareil photo, votre géolocalisation ou votre microphone.

Pierre Monnier