Le nombre d’images créées par des IA génératives augmente : elles sont si réalistes qu’elles sont indiscernables du matériel pédopornographique réel. En Italie, la plupart des interventions du service d’urgence pour l’enfance 113 concernent principalement les contenus représentant des abus et les cas de sextorsion.
Un enfant sur cinq a été victime de violences sexuelles en Europe. Et dans 80% des cas, l’agresseur était connu de la victime. Ce sont principalement les enfants issus de groupes défavorisés ou minoritaires qui tombent entre les mains des prédateurs, notamment en ligne. C’est l’alerte lancée par la Fondation Telefono Azzurro dans son communiqué « La dignité des enfants dans le monde numérique ».
Une dignité bafouée de plus en plus chaque jour par les intelligences artificielles (IA). « La pervasività degli strumenti digitali costituisce un acceleratore dei fenomeni di abuso sessuale » , déclare le professeur Ernesto Caffo, président de la Fondation, qui pointe du doigt les nouveaux phénomènes d’exploitation et d’abus sur les mineurs en ligne, « auxquels s’ajoute aujourd’hui la potenza delle tecnologie di intelligenza artificiale generativa, usata per l’autoproduzione di materiale pedopornografico fake indistinguibile da video reali ».
L’augmentation des cas d’abus en ligne sur les mineurs
Les chiffres des abus en ligne continuent d’augmenter. De nombreux signaux d’alarme résonnent dans le monde entier et ont été recueillis par Telefono Azzurro dans son communiqué. Selon l’Internet Watch Foundation (IWF), les signalements de contenus en ligne relatifs aux abus sexuels sur mineurs (Child Sexual Abuse Materials ou CSAM) ont augmenté de 5% en 2023 par communiqué à l’année précédente : il y a eu 392 660 contenus trouvés en ligne. Le nombre de sites web qui les contiennent a également augmenté de 8% par communiqué à 2022. Une année qui a été qualifiée par cette fondation de « la plus extrême jamais enregistrée ».
Il y a également une préoccupation concernant les contenus dits « autogénérés », c’est-à-dire les images ou vidéos prises directement par des mineurs, même par la tromperie ou la coercition : en 2023, 107 615 liens vers de tels contenus ont été trouvés, une augmentation de 66% par communiqué à l’année précédente. Le nombre d’images générées par des intelligences artificielles détectées en ligne par l’IWF a également augmenté : en 2023, 20 254 nouvelles images fake ont été enregistrées.
Il ne s’agit pas seulement d’un problème de chiffres, mais aussi de réalisme : elles sont si vraisemblables qu’elles ressemblent à des photographies d’abus réels, indiscernables même pour un regard exercé à lutter contre le phénomène. Ainsi, la circulation sur le web d’images créées par des IA génératives ajoute aux dangers déjà connus un nouveau niveau de normalisation potentielle des abus, mais aussi une victimisation supplémentaire des enfants qui ont déjà été abusés. De plus, l’augmentation des signalements due aux intelligences artificielles risque également de ralentir les opérations de contrôle et d’intervention pour sauver de véritables victimes d’abus.
Les dangers les plus courants pour les utilisateurs du web
Il ne s’agit pas seulement d’intelligence artificielle : le paysage en ligne pour les mineurs est parsemé de dangers qui sont depuis des années au centre de l’attention de Telefono Azzurro. À commencer par la création de CSAM (qui représente 40% des interventions du 114 Service d’urgence pour l’enfance concernant les cas en ligne), dont les victimes sont principalement des filles (9 sur 10) âgées de 3 à 13 ans (8 sur 10). Un âge qui diminue chaque année de plus en plus.
Le grooming, c’est-à-dire le fait d’être approché à des fins sexuelles, est également l’un des plus grands dangers auxquels les mineurs peuvent être confrontés en ligne. Et ils en sont conscients : selon une enquête menée en 2023 par Doxa et Telefono Azzurro, pour les plus jeunes, le risque le plus probable est d’être contacté en ligne par des adultes étrangers (13% des interventions du 114 concernent le grooming).
Un tiers des cas traités en 2023 par Telefono Azzurro concernant les abus en ligne concernent la sextorsion, c’est-à-dire l’extorsion basée sur des contenus sexuellement explicites échangés de manière consensuelle. L’âge des victimes impliquées est préoccupant : selon les données de la Police Postale, ce sont principalement des garçons et des filles âgés de 14 à 17 ans qui signalent ces cas.