L'analyse de risque explique qu'il y a plusieurs volets au système d'Apple de lutte contre la pornographie : le premier protégera les enfants contre leur exposition à du contenu sexuel impliquant des mineurs, tant pour en recevoir que pour en envoyer. Ce système n'est possible qu'avec l'option Family Sharing au travers duquel les parents ont un droit de regard sur les appareils de leur enfant. Il s'agit d'informer l'enfant qu'il est sur le point de visualiser une image à problème (ou qu'il va l'envoyer), de lui demander de confirmer son action et, si l'enfant a moins de 13 ans, de le notifier à ses parents (sans l'image).

Un autre volet, plus controversé, consiste à détecter les comptes iCloud qui ont un contenu anormal de ce type et de les clôturer tout en les notifiant à des organismes de protection de l'enfance (à eux d'avertir les autorités).

Apple ne vise que les images dites CSAM (Child Sexual Abuse Material). Il existe des bibliothèques d'images CSAM auprès desquelles Apple comparera les images qui circulent sur iCloud Photos.

Le tout n'est déployé qu'avec iOS, le système d'exploitation de Apple, y compris la base de données d'images auxquelles le contenu local de l'iPhone sera comparé. On profite de la sécurité qui entoure toute mise à jour de iOS : entre deux mises à jour, personne ne peut manipuler l'algorithme ou la base de données.

Comment les images CSAM sont détectées

Si une image est chargée sur iCloud Photos, elle est comparée (indirectement) à cette base de d

Lire la suite