Google renforce son assistant IA, Gemini, en permettant l’analyse des vidéos pour identifier celles générées par son intelligence artificielle. Toutefois, cette fonctionnalité présente des limitations significatives qui soulèvent des questions sur son efficacité globale dans un monde où la frontière entre réalité et fiction s’amenuise.
Google étend son outil de vérification aux vidéos, avec une importante limitation
La montée des vidéos hyperréalistes créées par intelligence artificielle complique la distinction entre réalité et fiction. Pour y répondre, Google a renforcé les outils de transparence de son assistant IA, Gemini. Les utilisateurs peuvent désormais télécharger une vidéo et demander : « Cette vidéo a-t-elle été générée avec Google AI ? »
Cependant, cette nouvelle capacité a une limitation importante qui restreint son utilisation générale.
Comment ça fonctionne ?
Le processus d’utilisation du détecteur est simple et intuitif. Dans l’application Gemini, qu’il s’agisse de la version web ou mobile, il suffit de télécharger le fichier vidéo concerné et de poser la question. Gemini s’occupe du reste : il analyse la piste audio et la vidéo à la recherche d’une marque de water numérique imperceptible pour l’œil humain, baptisée SynthID.
Cette technologie, développée par Google, s’intègre par défaut dans tout contenu créé ou modifié avec ses outils d’IA. Lorsque le système détecte cette marque, il ne se limite pas à donner un « oui » ou « non » générique, mais offre une réponse contextualisée, par exemple : « SynthID détecté dans l’audio entre 10 et 20 secondes. SynthID non détecté dans les images. » À noter que les fichiers pouvant être analysés ont des limitations techniques : selon les propres avertissements de Google, ils doivent peser moins de 100 Mo et avoir une durée maximale de 90 secondes.
De plus, la limitation évoquée précédemment n’est pas à prendre à la légère. Gemini ne peut identifier de manière fiable que le contenu portant la « marque digitale » de SynthID, c’est-à-dire celui créé avec les outils d’IA de Google. Si une vidéo a été générée par un modèle concurrent tel que Sora, Gemini ne pourra pas en identifier l’origine.
De telles outils sont positifs, mais des experts comme Jeremy Carrasco de Showtoolsai préviennent que les limitations de cet outil, combinées à l’absence d’un standard universel de « sécurité IA » permettant d’identifier le matériel « organique » de celui produit par un modèle de langage, sont très préoccupantes. Il affirme même qu’un tel outil ne pourra pas se concrétiser car « cela ne génère tout simplement pas de bénéfices, les entreprises n’ont pas d’incitation à le créer s’ils ne sont pas contraints. »
@showtoolsai
Pourquoi l’IA est-elle peu fiable ? Il semble qu’avec l’amélioration de l’IA, ses normes de sécurité se détériorent. Les vidéos et photos IA ont moins de garde-fous qu’auparavant. Que pouvons-nous faire à ce sujet ?
♬ bande sonore originale – Jeremy Carrasco
Encore une fois, SynthID s’avère utile, mais il est conseillé de coupler son utilisation avec un pensée critique active. Il est crucial de se questionner sur l’identité du réalisateur d’une scène et les raisons, d’observer si des lois de la réalité sont subtilement contournées, ou de prêter attention aux anomalies dans des parties complexes telles que les mains, la synchronisation labiale ou le « bruit » numérique de la caméra. Ces compétences humaines clés peuvent aider à repérer des vidéos artificielles sans besoin de marques d’eau.