Pour protéger les enfants, l'iPhone va détecter les photos pornographiques dans les messages

L'entreprise va déployer en France une nouvelle fonction d'iOS 16, pour mettre en garde les plus jeunes.

Sur iOS, les parents pourront désormais mieux protéger leurs enfants, afin que ces derniers ne voient pas s'afficher des photos explicites. Auprès de plusieurs médias dont BFMTV, Apple annonce qu'une nouvelle fonction, baptisée "Sécurité des communications dans Messages" sera déployée à la rentrée dans l'Hexagone, à l'occasion de la sortie d'iOS 16. Elle vise à mieux protéger les mineurs, lors de leur utilisation de l'application de messagerie et SMS iMessage.

Messages d'avertissement

Concrètement, si cette fonction est activée par les parents (via les options de Partage familial) l'iPhone analysera chaque image reçue sur iMessage avant de l'afficher. Si l'intelligence artificielle détecte des éléments de nudité, la photo sera alors floutée par défaut. Si le jeune utilisateur choisit de la voir, un message d'avertissement sera affiché, prevenant notamment que cela peut le choquer, ou que la personne prise en photo pourrait ne pas être consentante à cette diffusion.

La fonction "Sécurité des communications dans Messages" d'Apple © Apple

Comme le précise Apple sur son site, la mesure de protection opère dans les deux sens: un message préventif sera également affiché si un mineur tente d'envoyer une photo analysée comme contenant de la nudité. L'utilisateur sera alors incité à parler de la situation à ses proches de confiance, s'il est mis sous pression pour envoyer de tels clichés. Apple a également amélioré son assistant vocal Siri, afin qu'il puisse répondre à des demandes de conseils sur la conduite à tenir en cas de situation problématique.

En 2021, Apple avait annoncé un outil d'analyse d'images sur iCloud pour détecter d'éventuels contenus pédopornographiques. Cette initiative avait finalement été remisée au placard, face aux critiques des défenseurs de la vie privée. Un problème qui ne se posera pas avec cette nouvelle option: l'ensemble de l'analyse des images se fera localement, sur le smartphone, en conservant donc le chiffrement de bout en bout d'iMessage.

https://twitter.com/GrablyR Raphaël Grably Rédacteur en chef adjoint Tech & Co