Apple bloque la mise à jour d'une application de messagerie qui utilise ChatGPT

Apple estime que l'application BlueMail, dotée de l'intelligence artificielle ChatGPT, doit fixer une limite d'âge d'utilisation car elle pourrait générer des contenus inappropriés.

Pour se démarquer de la concurrence, l'outil de messagerie BlueMail propose à l'utilisateur de générer des mails à sa place, grâce à l'intelligence artificielle (IA). Dans sa dernière mise à jour, BlueMail a introduit ChatGPT, l'intelligence artificielle capable de générer du texte à la demande. Mais Apple a bloqué cette nouvelle version dans son magasin d'applications, estimant que le chatbot pouvait afficher des contenus inappropriés. L'éditeur de l'App Store demande à l'application de relever l'âge d'utilisation à 17 ans, rapporte le Wall Street Journal.

Pour les équipes d'Apple, l'application BlueMail doit soit revoir l'âge d'accès, actuellement fixé à 4 ans, soit inclure un moyen de filtrer les contenus. "Votre application contient du contenu généré par l'IA, mais ne semble pas, pour le moment, inclure des outils pour filtrer les contenus", a jugé Apple dans un message adressé à BlueMail et consulté par le média américain.

L'âge d'accès à BlueMail est actuellement fixé à 4 ans et plus © Capture App Store

La restriction d'âge imposée par Apple pour les 17 ans et plus concerne des applications pouvant contenir des éléments offensants ou du contenu explicite. Pourtant, sur Google Play, l'application apparaît comme accessible pour "tous publics".

Cette décision illustre les difficultés de généraliser l'IA à tout bout de champ. Et cela ne plaît pas du tout à Ben Volach, cofondateur de Blix, chargé du développement de BlueMail. "Apple complique la possibilité d'apporter de l'innovation à nos utilisateurs", estime-t-il auprès du Wall Street Journal. Selon lui, d'autres applications utilisant l'IA ne sont pas soumises à ces restrictions.

Litiges de longue date

Le développeur Blix a contesté la décision, qui est en cours d'examen par Apple. Pour Ben Volach, l'application dispose déjà de filtres de contenus. Selon BlueMail, le rejet d'Apple intervient une semaine après que l'application a soumis sa mise à jour pour examen.

Ce n'est pas la première fois que BlueMail et Apple ont un contentieux. En 2019, Apple avait lancé Sign in with Apple, une fonction qui permet aux utilisateurs de se connecter à une application sans donner d'informations personnelles comme une adresse mail. Sauf que le développeur Blix avait breveté une option similaire peu de temps auparavant.

Peu après, Apple avait retiré BlueMail de son magasin d'applications, estimant qu'elle présentait des problèmes de sécurité. Ce qui a conduit Blix à déposer une plainte contre Apple. Le juge avait considéré que Blix n'a pas présenté de preuves du monopole et du comportement anticoncurrentiel d'Apple.

Bing, le moteur de recherche de Microsoft, qui a récemment inclus ChatGPT à son interface, dispose d'une restriction d'âge de 17 ans sur l'App Store, mais celle-ci est antérieure à la mise à jour.

Margaux Vulliet