Cyberharcèlement: qu'est-ce que Bodyguard, l'appli recommandée par plusieurs députés?

Lancée en 2017, l'application Bodyguard modère les commentaires haineux sur différentes plateformes, afin de protéger l'utilisateur. Son fondateur assure n'avoir jamais sollicité de personnalité politique pour qu'elle en fasse la promotion.

Face au cyberharcèlement, comment réagir? Depuis quelques jours, plusieurs personnalités politiques ont fait la promotion d’une application baptisée Bodyguard. Aurore Bergé, députée et porte-parole de La République En Marche (LaREM), a expliqué avoir engagé "un garde du corps pour Twitter", "français, jeune et gratuit". Tout comme Laetitia Avia, également députée LaREM et auteure d'une proposition de loi visant à lutter contre la haine sur internet. Ou encore Jean-Luc Romero, maire-adjoint du 12ème arrondissement de Paris, affilié au parti socialiste.

"Bodyguard est apolitique"

Pourquoi certains députés en font la promotion maintenant? Mystère. Cette application existe pourtant depuis bientôt deux ans. Son fondateur, Charles Cohen, assure à BFM Tech n’avoir eu aucun contact avec ces personnalités, excepté Laetitia Avia avec qui il a échangé quand elle travaillait sur sa proposition de loi.

"Je n'ai jamais sollicité qui que ce soit", affirme l’entrepreneur de 23 ans. "Ça m'a d’ailleurs posé des problèmes car certains ont cru que j’étais affilié à En Marche et que j’allais faire de la censure en supprimant certains commentaires. Mais je le répète, Bodyguard est apolitique. Des personnalités de tous les partis politiques utilisent d'ailleurs le service."

L'application est pensée pour être un "garde du corps numérique" - d’où son nom, Bodyguard. Elle fonctionne avec une intelligence artificielle capable de détecter les messages haineux et de les modérer sur YouTube, Twitter et deux plateformes de streaming de jeux-vidéo, Twitch et Mixer, qui appartient à Microsoft. Bodyguard devrait protéger très prochainement les utilisateurs d'Instagram, annonce son fondateur à BFM Tech.

Près de 27.000 utilisateurs

Il y a un an, l’application avait été téléchargée 2500 fois. Désormais, près de 27.000 personnes sont protégées par son service. Dont des personnalités régulièrement victimes de cyberharcèlement comme Nikita Bellucci, ancienne actrice de films pornographiques, et Bilal Hassani, candidat à l'Eurovision.

"On a tendance à penser que Twitter est le réseau social sur lequel se propage la haine. Mais en réalité, c'est sur YouTube que l'on modère le plus de commentaires", détaille Charles Cohen.

Tout l'intérêt de l'application est qu'elle analyse le contexte de l'injure. L'algorithme reconnaît l’humour, prend en compte le profil de l’utilisateur - s’il est mineur, Bodyguard supprimera beaucoup plus facilement certains contenus - et les relations entre les internautes. Si deux d'entre eux ont déjà échangé sans animosité, l’intelligence artificielle ne considérera pas comme haineux un élément de langage pouvant être considéré comme vulgaire.

Sur YouTube, Twitch et prochainement Instagram, l’application se charge de supprimer les commentaires problématiques. Au bout de trois, leur auteur est immédiatement bloqué. Sur Twitter, il est impossible de supprimer les messages publiés par les autres. Ils sont donc masqués puis manuellement examinés par Bodyguard avant que leur auteur soit éventuellement bloqué.

Des accusations de censure

Après la publicité faite par des personnalités politiques sur les réseaux sociaux, certains internautes ont dénoncé un manque d’efficacité de Bodyguard. Toute personne peut en effet tester la technologie sur le site de l’application. Un internaute s’est ainsi étonné que le commentaire "J’ai envie de mettre les juifs dans un four" ne soit pas considéré comme haineux, contrairement à "je déteste les juifs", jugé raciste.

“Je comprends parfaitement les critiques mais c’est un choix assumé. Je ne veux pas verser dans l’opinion sinon on pourrait m’accuser de faire de la censure”, explique Charles Cohen.

Dans l’exemple cité précédemment, le second commentaire était raciste et a été supprimé. Car si Bodyguard ne sanctionne pas les opinions des internautes, l’application supprime automatiquement tous les contenus pénalement répréhensibles.

"L’application n’a pas été codée pour lutter contre le discours de haine (haine destinée à un groupe de personnes) mais contre le cyberharcèlement. C’est-à-dire contre la haine adressée à une seule personne”, précise Charles Cohen.

Ainsi, Bodyguard considère le commentaire "je n’aime pas les homos" comme une opinion et ne le supprimera pas. Sauf s’il est adressé à une personne homosexuelle car dans ce cas, cela relèvera du cyberharcèlement.

Une version anglaise de Bodyguard pourrait bientôt être disponible. Une option Famille devrait par ailleurs être lancée en septembre. Pour un euro par mois, les parents pourront recevoir sur leur smartphone des notifications liées aux contenus modérés par l’application. Mais Charles Cohen souhaite que son service reste gratuit pour les utilisateurs, par exemple grâce à une prise en charge de l’abonnement par certaines banques et assurances. L'entrepreneur semble être sur la bonne voie, puisqu'il vient d'intégrer l’accélérateur Allianz, basé à Nice.

https://twitter.com/Pauline_Dum Pauline Dumonteil Journaliste BFM Tech