L’essor des images générées par intelligence artificielle soulève des inquiétudes quant à leur impact sur la recherche en ligne, rendant difficile la distinction entre contenu authentique et trompeur. Face à cette situation, Google prend des mesures proactives pour distinguer ces images sur ses plateformes.
Les images générées par l’IA sont devenues de plus en plus présentes dans les résultats des recherches Google ces derniers mois, éclipsant des résultats légitimes et rendant la tâche plus difficile pour les utilisateurs qui cherchent ce qu’ils veulent vraiment. En réponse à cela, Google a annoncé mardi qu’il commencera à étiqueter les résultats d’image générés et modifiés par l’IA dans les mois à venir.
L’entreprise signalera ce type de contenu à travers la fenêtre « À propos de cette image », qui sera appliquée à la recherche, à Google Lens et aux fonctionnalités du Cercle de recherche sur Android. Google utilise également cette technologie dans ses services publicitaires et envisage d’ajouter une étiquette similaire pour les vidéos YouTube, mais des « mises à jour supplémentaires à ce sujet viendront plus tard dans l’année », selon le message d’annonce.
Google s’appuiera sur les métadonnées de la Coalition for Content Provenance and Authenticity (C2PA) pour identifier les images générées par l’IA. Il s’agit d’un groupe industriel auquel Google a adhéré en tant que membre du comité directeur plus tôt dans l’année. Ces « métadonnées C2PA » permettront de suivre la provenance de l’image, indiquant quand et où celle-ci a été créée, ainsi que l’équipement et les logiciels utilisés pour sa génération.
Pour l’instant, plusieurs géants de l’industrie ont rejoint le C2PA, notamment Amazon, Microsoft, OpenAI et Adobe. Cependant, la norme elle-même a reçu peu d’attention de la part des fabricants de matériel et on ne la trouve maintenant que sur quelques modèles de caméras Sony et Leica. Certains développeurs d’outils de génération d’IA notables, comme Black Forrest Labs, qui produit le modèle Flux utilisé par Grok pour sa génération d’images, ont également refusé d’adopter cette norme.
Le nombre d’escroqueries en ligne exploitant des deepfakes générés par l’IA a explosé au cours des deux dernières années. En février, par exemple, un financier basé à Hong Kong a été dupé en transférant 25 millions de dollars à des escrocs se faisant passer pour le directeur financier de l’entreprise lors d’une visioconférence. En mai, une étude menée par le fournisseur de vérification Sumsub a révélé que les escroqueries utilisant des deepfakes ont augmenté de 245 % mondialement entre 2023 et 2024, avec une augmentation de 303 % aux États-Unis spécifiquement.
“L’accessibilité publique de ces services a abaissé la barrière d’entrée pour les cybercriminels,” a déclaré David Fairman, directeur des informations et responsable de la sécurité chez APAC chez Netskope, à CNBC en mai. “Ils n’ont plus besoin de compétences technologiques particulières.”