Contexte : La nouvelle fonctionnalité AI Overviews de Google a commencé à halluciner dès le premier jour, et des résultats plus imparfaits – souvent hilarants – ont commencé à apparaître sur les réseaux sociaux dans les jours qui ont suivi. Bien que la société ait récemment tenté d’expliquer pourquoi de telles erreurs se produisent, il reste à voir si un grand modèle de langage (LLM) pourra un jour véritablement surmonter les faiblesses fondamentales de l’IA générative, même si nous avons vu les modèles d’OpenAI faire bien mieux que cela.
Google a présenté quelques modifications prévues pour les nouveaux aperçus de l’IA du moteur de recherche, qui ont immédiatement été ridiculisés en ligne après son lancement. Malgré les problèmes inhérents à l’IA générative que les géants de la technologie n’ont pas encore résolus, Google a l’intention de maintenir le cap avec des résultats de recherche basés sur l’IA.
La nouvelle fonctionnalité, introduite plus tôt ce mois-ci, vise à répondre aux requêtes complexes des utilisateurs en résumant automatiquement le texte des visites pertinentes (que la plupart des éditeurs de sites Web appellent simplement « contenu volé »). Mais de nombreuses personnes ont immédiatement découvert que l’outil pouvait fournir des réponses profondément erronées, qui se sont rapidement répandues en ligne.
Google a proposé plusieurs explications derrière ces problèmes. La société affirme que certains des exemples publiés en ligne sont faux. D’autres encore proviennent de problèmes tels que des questions absurdes, un manque d’informations solides ou l’incapacité de l’IA à détecter le sarcasme et la satire. Se précipiter sur le marché avec un produit inachevé était cependant l’explication évidente que Google n’a pas proposée.
Par exemple, dans l’une des hallucinations les plus largement partagées, le moteur de recherche suggère aux utilisateurs de manger des pierres. Parce que pratiquement personne ne poserait sérieusement cette question, le seul résultat fort sur le sujet que le moteur de recherche a pu trouver était un article provenant du site satirique The Onion suggérant que manger des pierres est sain. L’IA tente de construire une réponse cohérente, peu importe ce qu’elle déterre, ce qui aboutit à un résultat absurde.
La vue d’ensemble de Google AI est un cauchemar. On dirait qu’ils l’ont précipité dehors. Aujourd’hui, Internet s’en donne à cœur joie. Voici quelques-uns des meilleurs exemples https://t.co/ie2whhQdPi
– Kyle Balmer (@iamkylebalmer) 24 mai 2024
L’entreprise tente de résoudre le problème en améliorant les restrictions sur les réponses du moteur de recherche et sur l’endroit où il extrait les informations. Il devrait commencer à éviter les sources frauduleuses et le contenu généré par les utilisateurs, et ne générera pas de réponses IA aux requêtes ridicules.
L’explication de Google pourrait expliquer certaines plaintes d’utilisateurs, mais de nombreux cas partagés sur les réseaux sociaux montrent que le moteur de recherche ne parvient pas à répondre correctement à des questions parfaitement rationnelles. L’entreprise affirme que les exemples humiliants diffusés en ligne représentent une forte minorité. Cela peut être un bon argument, car les utilisateurs discutent rarement d’un outil lorsqu’il fonctionne correctement, même si nous avons vu de nombreuses histoires de réussite se propager en ligne en raison de la nouveauté derrière genAI et des outils comme ChatGPT.
Google a réitéré son affirmation selon laquelle les aperçus de l’IA génèrent davantage de clics vers des sites Web, malgré les affirmations selon lesquelles la réimpression des informations dans les résultats de recherche éloigne le trafic de sa source. La société a déclaré que les utilisateurs qui trouvent une page via AI Overviews ont tendance à y rester plus longtemps, qualifiant les clics de « qualité supérieure ». Les mesures de trafic Web tierces devront probablement tester les affirmations de Google.
Détente, découvrez l’évolution du nombre de smartphones vendus par marque au fil du temps dans la vidéo ci-dessous :
