Google a répondu à toutes les critiques concernant AI Overview
Google a répondu à toutes les critiques concernant AI Overview. La société derrière Android a présenté au monde lors du Google I/O 2024 une nouvelle expérience de recherche intégrée. Bien que l’entreprise de Mountain View ait déclaré au monde qu’AI Overview est destiné à révolutionner les recherches sur Google, la réalité a été tout le contraire. Le fonctionnement d’AI Overview a été l’objet de moqueries de la part des utilisateurs en raison des erreurs qui sont devenues virales, bien que Google semble avoir confiance en sa fonctionnalité au point de défendre sa précision.
Dans un article sur son blog officiel, ils ont expliqué le fonctionnement d’AI Overview, essayant d’éclairer les défauts techniques rencontrés par les utilisateurs au cours de la dernière semaine. Google a pleinement confiance en AI Overview et pour éviter que les commentaires n’apparaissent à nouveau, ils ont décidé d’expliquer son fonctionnement, en plus de signaler qu’ils ont apporté des changements pour améliorer l’expérience. Cela étant dit, voyons comment fonctionne AI Overview et ce que Google a changé.
Google améliore AI Overview pour éviter de nouvelles critiques sur son fonctionnement
Google précise que AI Overview fonctionne totalement différemment d’un chatbot ou d’un modèle de langage de grande taille ou LLM, la fonctionnalité intégrée à son moteur de recherche n’est pas destinée à générer des résultats grâce à une base de données d’entraînement. Ce modèle est intégré aux principaux systèmes de classification web de Google.
La tâche d’AI Overview consiste à être capable d’effectuer des tâches de recherche traditionnelles, en identifiant des sujets pertinents et de haute qualité. Cela signifie qu’AI Overview ne se limite pas à fournir des résultats de texte aux utilisateurs, la fonctionnalité affiche des liens pertinents qui permettront de réaliser une recherche approfondie sur le sujet en question.
La précision étant un élément clé d’AI Overview, les situations où elle se trompe ne sont pas dues à un défaut de la fonctionnalité. En fait, Google précise que les résumés d’IA sont conçus pour afficher uniquement des informations étayées par les meilleurs résultats du web. Alors, que se passe-t-il lorsque AI Overview échoue? Voici la réponse de Google:
Lorsque les résumés d’IA se trompent, c’est généralement pour d’autres raisons : mauvaise interprétation des requêtes, mauvaise interprétation d’un nuance du langage sur le web ou manque d’une grande quantité d’informations disponibles.
L’explication de Google est claire, mais ne suffit pas à empêcher les critiques de cesser. Ceux de Mountain View précisent que AI Overview fonctionne correctement dans les cadres attendus, bien qu’ils soulignent également qu’étant lancé pratiquement globalement, il est inévitable qu’il présente des failles en raison de devoir faire face à des millions de demandes.
Ce n’est pas la seule critique qu’ils ont abordée concernant les erreurs, Google met l’accent sur les captures d’écran modifiées montrant de faux résultats:
Il y a eu un grand nombre de captures d’écran fausses largement partagées. Certains de ces faux résultats étaient évidents et stupides. D’autres ont laissé entendre que nous obtenions des résultats dangereux sur des sujets comme laisser les chiens dans la voiture, fumer en étant enceinte ou la dépression. Ces résumés d’IA n’ont jamais été affichés. Nous encourageons donc quiconque trouve ces captures d’écran à effectuer une recherche lui-même pour le vérifier.
Prendre tout cela en compte, Google a indiqué qu’ils ont apporté des changements visant à améliorer le fonctionnement d’AI Overview. Les principales nouveautés sur lesquelles ils ont travaillé sont les suivantes:
- Meilleurs mécanismes de détection des requêtes non pertinentes qui ne devraient pas afficher une vue d’ensemble de l’IA, et nous avons limité l’inclusion de contenus satiriques et humoristiques.
- Mise à jour des systèmes internes pour limiter l’utilisation de contenus générés par les utilisateurs dans les réponses pouvant offrir des conseils trompeurs.
- Restrictions d’activation pour les requêtes où les résumés d’IA n’étaient pas aussi utiles.
- Pour des sujets tels que les actualités et la santé, des barrières de sécurité solides sont déjà mises en place. L’objectif est de ne pas afficher de résumés d’intelligence artificielle dans les sujets d’actualité, où la fraîcheur et l’exactitude sont importantes. Pour la santé, des améliorations supplémentaires ont été apportées pour renforcer la qualité de protection.
Google est convaincu qu’AI Overview est l’avenir des recherches sur son navigateur. Il ne reste plus qu’à attendre de voir si les améliorations apportées entraînent un changement radical dans les résultats proposés et, surtout, dans l’expérience des utilisateurs.