L’objectif du nouvel outil est de « protéger les enfants des prédateurs qui utilisent des outils de communication pour les recruter et les exploiter et de limiter la diffusion de matériel sur les abus sexuels sur enfants ». Avec cette nouveauté, Apple pourra numériser les images que les appareils enverront au Cloud avant qu’elles ne soient stockées dans iCloud Photos.
La nouvelle mise à jour d’Apple arrivera plus tard cette année et apportera une technologie qui permettra à la multinationale de Cupertino de détecter les images d’abus sexuels sur des enfants stockées dans iCloud, le service de stockage en nuage d’Apple. L’objectif du nouvel outil disponible pour la première fois aux États-Unis est de « protéger les enfants des prédateurs qui utilisent des outils de communication pour les recruter et les exploiter et de limiter la diffusion de matériel pédopornographique ». Cependant, l’annonce a alarmé les responsables de la sécurité qui craignent qu’Apple ne supervise les appareils personnels de millions de personnes.
Apple a présenté ses plans de développement dans un article de blog annonçant qu’une nouvelle suite de systèmes de protection contre les abus sexuels sur enfants sera bientôt introduite. La nouvelle fonctionnalité fait partie d’une série de mises à jour visant à accroître la sécurité des mineurs : « Premièrement, de nouveaux outils de communication permettront aux parents de jouer un rôle plus éclairé en aidant leurs enfants à naviguer dans la communication en ligne. L’application Messages utilisera l’apprentissage automatique sur l’appareil. pour vous alerter sur le contenu sensible, en gardant les communications privées illisibles par Apple », lit le post du géant de la technologie. « Plus tard, iOS et iPadOS utiliseront de nouvelles applications de chiffrement pour aider à limiter la propagation du« matériel d’abus sexuel sur enfants » (CSAM) en ligne. La détection de CSAM aidera Apple à fournir des informations précieuses aux forces de l’ordre sur les collections CSAM dans iCloud. Photo ».
La nouvelle fonctionnalité, appelée « neuralMatch » selon le Financial Times, sera utilisée pour signaler du matériel pédopornographique au National Center for Missing and Exploited Children (NCMEC) qui travaille en partenariat avec les forces de l’ordre aux États-Unis. L’annonce d’Apple a été présentée devant un groupe d’universitaires et de chercheurs, mais les défenseurs de la sécurité préviennent que les nouvelles mises à jour, disponibles à partir d’iOS 15, pourraient présenter des risques pour les données et la sécurité des utilisateurs à domicile : -end les services cryptés ouvrent la porte aux menaces à la vie privée pour tous les utilisateurs, tout en créant de nouvelles menaces pour les jeunes », a déclaré Greg Nojeim, codirecteur du projet de sécurité et de surveillance du CDT.
A partir de juin, Google Photos change les règles sur les images téléchargées : combien vous devrez payer
Apple s’assure que la méthode de détection du contenu offensant est « conçue en gardant à l’esprit la confidentialité des utilisateurs » et qu’il y a moins d’une chance sur mille milliards par an qu’un compte particulier soit mal signalé. Avec la mise à jour de l’application Messages, les enfants et leurs parents seront avertis lorsqu’ils recevront ou enverront des photos sexuellement explicites : « Lors de la réception de ce type de contenu, la photo sera floue et l’enfant sera averti, présenté avec des ressources utiles et rassuré qu’il est d’accord si vous ne voulez pas voir cette photo », explique l’entreprise. « Par mesure de précaution supplémentaire, l’enfant peut également être informé que, pour s’assurer qu’il est en sécurité, ses parents recevront un message s’ils le voient. Des protections similaires sont disponibles si un enfant tente d’envoyer des photos sexuellement explicites. L’enfant sera averti avant « d’envoyer la photo et les parents peuvent recevoir un message si l’enfant choisit de l’envoyer ».
La mise à jour de la méthode de détection CSAM analysera les images que les appareils enverront au Cloud en utilisant une archive d’images fournie par le NCMEC comme référence : « Avant qu’une image ne soit stockée dans iCloud Photos, un processus de correspondance est effectué sur l’appareil pour cette image par rapport à celle connue hachages CSAM « . De cette façon, Apple fournira un outil supplémentaire aux forces de l’ordre pour la sécurité des enfants et aux parents et aux enfants plus âgés davantage d’informations pouvant les aider en cas de situations dangereuses.