SynthID: Vous pouvez maintenant démasquer les images créées par IA

Nous vivons à une époque où l’IA génère plus de contenu que les humains. Mais certaines entreprises estiment qu’elles ont la responsabilité de lutter contre les deepfakes. Google est en première ligne. Il y a peu de temps, Google a franchi une étape importante dans la lutte contre la propagation des fausses informations. Sous la direction du PDG Demis Hassabis, l’équipe de DeepMind, de la firme de technologie, a créé une nouvelle technologie appelée SynthID. En abordant le défi de faire la distinction entre les images faites par des humains et celles faites par l’IA, cette technologie contribuera à maintenir les choses réelles et à stopper les faux contenus.

Ce que fait SynthID, c’est de marquer les images générées par l’IA de façon invisible pour l’œil humain. Bien sûr, les systèmes d’IA peuvent voir la marque. Voici comment on aborde le problème des deepfakes et de l’altération des données visuelles. Son objectif est de servir d’identifiant distinctif pour le hardware généré par l’IA.

L’équipe de DeepMind a développé SynthID en collaboration avec Google Research afin de pouvoir interagir facilement avec le générateur d’images Imagen. À la suite de cette collaboration, une stratégie astucieuse a été mise au point pour intégrer un filigrane numérique directement dans les pixels d’une image. Bien qu’invisible, ce filigrane offre une marque lisible par l’IA. Cela aide l’IA à déterminer si une image est faite par un humain ou non.

Même avec des modifications telles que le redimensionnement ou les changements d’éclairage, la technologie de filigrane de SynthID reste. Les tests de Google montrent qu’elle n’est pas parfaite mais détecte de nombreux changements courants. Les utilisateurs du générateur d’images Imagen peuvent l’utiliser, ce qui aide les créateurs soucieux d’authenticité et de droits d’auteur.

Démasquer les deepfakes : faites connaissance avec SynthID

SynthID se joint aux autres outils de détection du contenu IA, car les informations modifiées se propagent. Les grandes entreprises informatiques comme Google, Meta, Microsoft et Amazon recherchent des solutions de vérification de contenu pour défendre l’intégrité numérique.

Les progrès de SynthID sont positifs, mais ses limites sont claires. L’informatique saisit la complexité du problème et la nécessité d’une innovation constante. La détection de l’IA, telle que SynthID, est vitale, mais elle ne représente qu’une partie de l’effort global pour un monde numérique plus sûr.

La nouvelle technologie est actuellement en version bêta. C’est pourquoi seuls quelques utilisateurs de la plateforme Vertex AI peuvent la tester. Google prévoit d’étendre sa disponibilité et de l’intégrer à d’autres produits à mesure que les tests progressent et que les retours des utilisateurs sont recueillis. SynthID et des outils similaires donnent espoir dans la lutte contre les fausses informations, montrant l’engagement de l’industrie envers un monde en ligne fiable.

Actualité mobile et vidéo du moment