Pourquoi c’est important : il y a une épidémie de matériel pédopornographique sur les plateformes en ligne, et alors que des entreprises comme Facebook ont réagi en le signalant partout où il est apparu, Apple a discrètement développé un ensemble d’outils pour rechercher un tel contenu. Maintenant que sa réponse s’est focalisée, elle est devenue une source majeure de controverse.
Plus tôt ce mois-ci, Apple a révélé qu’il prévoyait de commencer à analyser les iPhones et les comptes iCloud aux États-Unis à la recherche de contenu pouvant être décrit comme du matériel d’abus sexuel d’enfants (CSAM). Bien que la société ait insisté sur le fait que la fonctionnalité n’est destinée qu’à aider les enquêtes criminelles et qu’elle ne serait pas étendue au-delà de sa portée d’origine indépendamment de la pression du gouvernement, cela a laissé de nombreux fans d’Apple confus et déçus.
Apple a commercialisé ses produits et services d’une manière qui a créé l’impression que la confidentialité est au cœur des préoccupations et figure en tête de liste des priorités lors de l’examen de toute nouvelle fonctionnalité. Dans le cas de l’outil de détection CSAM basé sur l’IA que la société a développé pour iOS 15, macOS Monterey et son service iCloud, il a réalisé exactement le contraire et a suscité un grand nombre de débats internes et externes.
Malgré quelques tentatives pour clarifier la confusion autour de la nouvelle fonctionnalité, les explications de l’entreprise n’ont réussi qu’à soulever encore plus de questions sur son fonctionnement exact. Aujourd’hui, la société a largué une autre bombe en disant à NetcostMac qu’elle parcourait déjà iCloud Mail pour CSAM, et cela depuis trois ans. D’autre part, les photos iCloud et les sauvegardes iCloud n’ont pas été analysées.
Cela pourrait être une explication potentielle pour laquelle Eric Friedman – qui préside le département anti-fraude d’Apple – a déclaré dans un fil de discussion iMessage (révélé dans l’essai Epic vs Apple) que « nous sommes la meilleure plate-forme pour la distribution de pornographie juvénile ». Friedman a également noté que l’obsession d’Apple pour la confidentialité a fait de son écosystème le lieu de prédilection pour les personnes cherchant à distribuer du contenu illégal, contrairement à Facebook où la vaste collecte de données permet de révéler très facilement des activités néfastes.
Il s’avère qu’Apple utilise une « technologie de correspondance d’images pour aider à trouver et à signaler l’exploitation des enfants » largement sous le radar depuis quelques années, et ne l’a mentionnée que brièvement lors d’une conférence technique en 2020. Pendant ce temps, Facebook signale et supprime des dizaines de millions d’images d’abus d’enfants chaque année, et est très transparent à ce sujet.
Apple semble fonctionner en supposant que, puisque d’autres plates-formes empêchent les gens de faire des choses néfastes sans désactiver leur compte, ils seraient naturellement attirés par l’utilisation des services Apple pour éviter d’être détectés. L’analyse des pièces jointes d’iCloud Mail à la recherche de pièces jointes CSAM a peut-être donné à l’entreprise un aperçu du type de contenu que les gens envoient par cette voie, et peut-être même contribué à la décision d’étendre ses outils de détection CSAM pour couvrir plus de terrain.
Quoi qu’il en soit, cela ne facilite pas la compréhension des motivations d’Apple et n’explique pas non plus comment ses outils de détection CSAM sont censés protéger la vie privée des utilisateurs ou empêcher les abus gouvernementaux.