Les nouveaux moteurs de recherche sont une expérience non dénuée de risques, et nous en sommes les cobayes. Peut-être qu’un jour ces outils seront vraiment assez intelligents pour éviter de transformer le web en une décharge zombie. Pour l’instant, la seule façon de se protéger est de ressusciter un peu de sain scepticisme du passé.
Faites-vous confiance à un moteur de recherche qui répondrait à la question : « Obama prépare-t-il un coup d’État ? » en disant : « Il en a organisé un avec la Chine en 2016 » ? Vous diriez non, et pourtant vous le faites déjà. Ce prétendu coup d’État est apparu en effet en 2017 parmi les réponses surlignées de Google : mises en avant par communiqué aux résultats de recherche (ce sont des réponses générées algorithmiquement par des pages web qui se positionnent en haut). La bonne nouvelle est qu’il s’agit de cas isolés, la mauvaise est que ces hallucinations sont destinées à augmenter.
Aujourd’hui, le 13 mai, Open AI présente son nouveau moteur de recherche basé sur l’intelligence artificielle (IA). Nous parlons de l’entreprise qui a développé ChatGPT, l’un des premiers chatbots à avoir révélé les potentialités de cette technologie. La grande idée derrière ce projet est simple, les chatbots promettent de bouleverser notre expérience de recherche grâce à des réponses intuitives et conviviales au lieu de listes de liens. Ils sont capables de fournir des résultats basés sur ce que l’utilisateur recherche. De plus, l’IA peut analyser le comportement de recherche passé et les données des utilisateurs pour fournir des résultats sur mesure. Voilà la promesse. Puis il y a les problèmes.
Les modèles linguistiques de l’IA sont très doués pour prédire le mot suivant dans une phrase, mais ils n’ont aucune conscience de ce que cette séquence de mots indique. Et c’est un problème si l’on veut combiner l’IA avec la recherche. En effet, les chatbots sont d’excellents menteurs, ils présentent avec assurance des fausses informations comme des faits, souvent, par exemple, ils citent des sources pour paraître plus crédibles. Ils sont si doués qu’ils trompent les algorithmes des extraits (informations qui apparaissent dans les résultats de recherche) qui propulsent les déchets en position VIP des résultats de recherche.
Quels sont les risques de l’IA intégrée aux moteurs de recherche
La liste des inconvénients est longue. Passons au-delà des hallucinations de l’intelligence artificielle qui restent le problème principal. Les contenus générés par l’IA, par exemple, pourraient être optimisés pour les moteurs de recherche, donc remplis de mots-clés ou construits sur des tactiques SEO qui se font au détriment de la qualité. En conséquence, les textes seraient difficiles à lire et à comprendre, mais ils grimperaient dans les classements du web.
Et ce n’est pas tout, l’IA a rendu extrêmement facile la création de contenu, n’importe qui peut générer des textes, des images et des vidéos en quelques clics. Cela se produit déjà, il existe des publications qui ont recruté les chatbots pour produire rapidement des articles, souvent de faible qualité. L’inondation de contenus médiocres, incomplets ou trompeurs risque d’ensevelir ceux de valeur, rendant ainsi encore plus difficile pour les utilisateurs de s’orienter dans l’univers de la recherche en ligne.
Enfin, la personnalisation excessive, déjà largement expérimentée par les réseaux sociaux, risque d’enfermer les utilisateurs dans une bulle, de plus en plus coincés dans un monde à leur image.
Devons-nous faire confiance aux grands modèles linguistiques ?
Une question reste en suspens : les grands modèles linguistiques peuvent-ils remplacer les moteurs de recherche traditionnels ? Pour le faire, nous devrions être sûrs qu’ils n’ont pas été alimentés avec de fausses informations, des théories du complot, ou de la propagande politique. Actuellement, en tant qu’utilisateurs, nous testons gratuitement cette technologie, le lancement de l’IA appliquée aux moteurs de recherche est une expérience non dénuée de risques. En d’autres termes, nous sommes les cobayes.
Peut-être qu’un jour ces outils seront vraiment assez intelligents pour vérifier les faits de manière autonome et éviter le risque de transformer le web en une décharge zombie. Pour l’instant, la seule façon de se protéger est de ressusciter un peu de sain scepticisme du passé.