Les engagements relatifs à la vérification de l’âge ressortent par leur niveau de détail parmi les dispositions pour la protection des mineurs de l’importante transaction judiciaire conclue par Meta. Cet accent est logique : les protections destinées aux jeunes usagers restent inefficaces si l’entreprise ne parvient pas à les identifier avec précision.
Repérer les détenteurs de comptes mineurs constitue la pierre angulaire d’initiatives de sécurité plus larges, qui se développent dans le secteur technologique chez Google, TikTok et Roblox, alors que le contrôle des régulateurs et du public s’intensifie aux États-Unis et dans le monde.
Selon l’accord, que Meta présente comme un modèle potentiel pour la profession, la société dispose de douze mois pour peaufiner sa stratégie. Cependant, les mécanismes disponibles sont limités et l’amélioration de la vérification de l’âge pose des défis importants, en particulier concernant la vie privée des adultes qui pourraient devoir prouver qu’ils ont plus de dix-huit ans.
Le règlement de 18 milliards d’euros met fin à une action en justice engagée par des procureurs généraux d’États. Ils accusaient la firme technologique d’avoir nui à la santé mentale des jeunes en concevoir Instagram et Facebook pour capter et retenir l’attention des adolescents.
Annoncé la semaine dernière, le pacte avec l’entreprise basée à Menlo Park, en Californie, implique 48 États américains, le district de Columbia et les territoires des États-Unis.
Les entreprises technologiques s’appuient sur l’IA pour estimer l’âge des utilisateurs
En dehors du monde numérique, les gens présentent couramment une pièce d’identité officielle pour prouver qu’ils ont l’âge légal, par exemple pour entrer dans un lieu ou acheter du tabac. Bien que cette méthode soit utilisable en ligne, de nombreux utilisateurs hésitent à transmettre des documents sensibles comme un permis de conduire ou un passeport à de grandes entreprises technologiques telles que Meta ou Google.
Meta accepte les pièces d’identité officielles pour confirmer l’âge et s’engage à supprimer les documents soumis sous trente jours. Pourtant, un nombre croissant de plateformes technologiques se tournent vers l’intelligence artificielle pour évaluer les données démographiques des utilisateurs.
Cette approche constitue surtout une estimation de l’âge et non une vérification formelle, car l’IA peut l’approximer, souvent avec précision, mais ne peut pas confirmer une date de naissance exacte.
L’année dernière, Google a lancé un mécanisme automatisé d’assurance de l’âge sur YouTube. Il utilise des algorithmes d’IA pour distinguer les adultes des jeunes spectateurs en évaluant les habitudes de visionnage. Meta déploie des techniques d’analyse similaires.
Les évaluations d’âge pilotées par l’IA dépendent de signaux contextuels. Sur des plateformes comme Instagram, ces indicateurs vont des publications qui mentionnent l’école ou des anniversaires aux modèles d’interaction, comme le contenu aimé, les commentaires, la durée de visionnage, les connexions sociales et les plages d’activité quotidienne.
Par exemple, les utilisateurs qui sont systématiquement inactifs pendant les heures de classe habituelles sont considérés comme des enfants d’âge scolaire.
Dans une mise à jour publique l’année dernière, Meta a révélé que ses systèmes d’IA évaluent aussi les images téléchargées pour détecter des indicateurs physiques, comme « la taille ou la structure osseuse, pour estimer l’âge général d’une personne ; le système n’identifie pas la personne spécifique sur l’image ».
« En combinant ces informations visuelles avec notre analyse des textes et des interactions, nous pouvons augmenter considérablement le nombre de comptes mineurs que nous identifions et supprimons », a déclaré l’entreprise.
Dans le cadre de l’accord juridique, Meta s’est engagée à améliorer ses outils d’évaluation de l’âge grâce à la fois à sa technologie propriétaire et à des solutions tierces, qui seront soumises à des audits indépendants réguliers.
L’accord définit des objectifs de métriques pour les faux positifs, c’est-à-dire les mineurs classés à tort comme des adultes de plus de dix-huit ans. De plus, si un compte est signalé comme appartenant à un enfant de moins de treize ans et est ensuite supprimé, Meta évaluera les profils démographiques du réseau en ligne de cet utilisateur.
Des analyses faciales servent à estimer l’âge sur certaines plateformes
Des services d’identité spécialisés comme Yoti et Persona, qui collaborent avec des entreprises dont Meta et Roblox, évaluent les selfies vidéo soumis par les utilisateurs pour déduire des tranches d’âge démographiques.
Le réseau de jeux en ligne Roblox, qui autorise l’inscription des enfants de moins de treize ans contrairement aux réseaux sociaux traditionnels, exige un selfie vidéo pour estimer l’âge du joueur.
Roblox affirme qu’il supprime ces enregistrements immédiatement après leur traitement. Soumettre des données faciales est facultatif pour un accès général à la plateforme, et cela devient nécessaire seulement quand les utilisateurs veulent activer les fonctionnalités de chat interactif.
Des rapports d’erreurs du système ont émergé, et des spécialistes en technologie ont exprimé des inquiétudes quant à la fiabilité des logiciels d’estimation faciale, en particulier pour les personnes de sexe féminin et certains groupes raciaux ou ethniques.
Cependant, Matt Kaufman, le directeur de la sécurité de Roblox, a déclaré l’année dernière que pour les personnes âgées de cinq à vingt-cinq ans, la technologie fournit des estimations d’âge précises à un ou deux ans près.
Plusieurs plateformes numériques, dont Meta, estiment que les opérateurs de boutiques d’applications comme Apple et Google devraient gérer la vérification de l’âge au lieu des services individuels. Selon ce modèle, les boutiques d’applications confirmeraient l’âge des utilisateurs avant d’autoriser le téléchargement des logiciels. Sans surprise, Apple et Google ne sont pas d’accord.
« Présentée comme ‘simple’ par ses partisans, dont Meta, cette proposition ne couvre pas les ordinateurs de bureau ou les autres appareils qui sont souvent partagés en famille. Elle pourrait aussi être inefficace contre les applications préinstallées », a déclaré Google dans un billet de blog l’année dernière.
Les inquiétudes sur la protection des données continuent de poser des défis majeurs
Si les contrôles d’âge visent à protéger les mineurs d’environnements en ligne inappropriés, qu’il s’agisse de réseaux sociaux ou de contenu pour adultes, des critiques avertissent qu’une mise en œuvre généralisée pousse le web vers une réduction de la vie privée, de la sécurité et de l’accès libre.
Les opposants préviennent que les citoyens risquent d’être non seulement exclus du contenu pour adultes, mais aussi des reportages d’actualité, des ressources de santé et de la capacité à s’exprimer librement et anonymement.
Déterminer ce qui constitue un matériel préjudiciable aux mineurs reste intrinsèquement subjectif. Des analystes juridiques avertissent que la législation rendant obligatoire la vérification de l’âge pourrait porter atteinte aux protections du Premier amendement de la Constitution américaine.
L’implication plus large pourrait être l’obligation de vérifications d’âge sur tous les médias numériques, des grands services de streaming comme Netflix aux blogs communautaires hyperlocaux.
L’organisation de défense des droits Electronic Frontier Foundation passe depuis des années à souligner les risques d’un « internet sous verrouillage par âge ».
« Peu importe la méthode, chaque système exige que les utilisateurs transmettent des informations personnelles sensibles et immuables qui relient leur identité hors ligne à leur activité en ligne », a mis en garde l’EFF dans un communiqué. « Une fois ces données précieuses collectées, elles peuvent facilement fuiter, être piratées ou utilisées à mauvais escient. »