Après le lancement des nouveaux iPhone, des affirmations troublantes émergent concernant l’intelligence artificielle intégrée à X. Grok, censée fournir des réponses fiables, se retrouve souvent à valider des informations douteuses, conduisant à des erreurs embarrassantes et à des malentendus sur la véracité des contenus.
J’ai moi-même constaté qu’une semaine après le lancement des nouveaux iPhone, l’IA me traitait de menteur pour avoir publié des articles sur des produits non sortis :
Vous présentez des spécifications d’un produit futur (iPhone 17 Pro Max) comme des faits confirmés, ce qui frôle le contenu trompeur.
En effet, le cas de Grok, l’intelligence artificielle intégrée à X, illustre parfaitement comment le public a délégué son sens critique à une machine conçue pour paraître sûre. Les utilisateurs lui demandent si une image est fausse, si une vidéo est réelle ou si un texte est fondé. Grok répond avec assurance, en utilisant des phrases bien construites et une autorité technique apparente.
Ce qu’elle ne dit pas, c’est qu’en réalité, elle ne « sait » rien. Elle se contente de calculer quelle est la probabilité que le mot suivant soit juste. Quand il s’agit de vérifier des informations, cela équivaut à jouer à la roulette russe avec la vérité. Les exemples récents sont aussi éloquents que préoccupants.
Une image truquée d’une prétendue attaque à Tel Aviv a d’abord été validée par Grok comme authentique, puis, après de nouvelles questions, elle a rectifié à moitié : « cela pourrait être une image générée par une IA ou une photo d’archives ». Et un jour plus tard, elle conseillait de « consulter des sources vérifiées ». Une version des faits mue par l’heure. Il en a été de même pour une vidéo d’un requin « sauvée » de l’océan : Grok a cru à sa véracité alors qu’il s’agissait d’un montage humoristique.
Mais l’erreur la plus retentissante fut celle d’une professeure de Valence qui a testé Grok avec une vieille photographie de l’après-guerre espagnole. Grok l’a localisée aux États-Unis, identifié l’auteur comme étant Walker Evans et a même détaillé l’année, 1936, ainsi que le nom de la famille photo-graphiée. Tout cela était fictif mais exprimé avec une précision millimétrique. Lorsque la professeur a fourni la source originale de l’archive de l’Université de Malaga, la machine a rectifié. « Je me suis trompé », a-t-elle déclaré, presque comme pour s’excuser.
Le plus drôle ? Elle ne retient pas la leçon : quelques heures plus tard, elle se trompait à nouveau avec la même image.
Le dernier cas, plus récent, implique qu’un artiste a créé une image truquée d’un marché de Noël sécurisé en Europe. Cette image a circulé sur les réseaux comme si c’était une photo authentique et a fini par devenir munitions politiques. Les utilisateurs l’ont partagée avec indignation et, lorsque quelqu’un a découvert qu’il s’agissait d’une création générée par une intelligence artificielle, il était trop tard. Oui, certains ont demandé à Grok si cette image était réelle, tandis que l’IA était censée la vérifier, et elle a de nouveau échoué.
Et ici réside le cœur du problème : il ne s’agit pas de savoir si l’IA ment (elle ne peut pas mentir) mais de son incapacité à distinguer le vrai du faux. Tout dépend de ce qu’elle a appris, ou plutôt, de ce qu’elle a vu répété des milliers de fois dans ses bases de données. Dans le cas de Grok, sa principale source d’entraînement est le réseau X lui-même. En d’autres termes, un écosystème où la désinformation prolifère.
C’est l’IA elle-même qui t’explique comment elle fonctionne et sur quoi elle se base pour dire que c’est réel :
Pourtant, beaucoup de gens continuent de considérer comme vraies toutes les réponses de l’IA, peu importe leur provenance ou leur contenu. La clé réside dans le fait qu’elle dise ce que nous voulons entendre (ou lire) pour déterminer ce qui est vrai et ce qui ne l’est pas. Nous agissons ainsi avec un mélange d’étonnement et de résignation, convaincus que “la machine sait plus que nous”.
L’ironie, c’est qu’alors que nous nous émerveillons devant son prétendu infaillibilité, l’IA commet sans cesse des erreurs, affichant une confiance totale en elle-même. Ce sont des réponses fabriquées, mais avec une apparence de vérité si polie qu’elle désarme toute suspicion.
De ce fait, nous avons pris l’habitude de demander “que dit l’IA ?” comme si elle était la véritable détentrice de la vérité absolue, alors qu’en réalité, elle ne renvoie qu’un reflet déformé de l’information présente sur le Net. Au final, tous les modèles d’IA (qui sont encore rudimentaires) apprennent de nous, de notre information, mais aussi de nos textes, de nos opinions et de nos idéologies. Si le matériel de départ est contaminé (ce qui est le cas), le résultat ne peut être fiable.
L’IA, dans le meilleur des cas, est un assistant brillant avec des lacunes monumentales, mais il semble que tous ne soient pas prêts à entendre cette vérité.