Oops : Ce n’est pas la première fois que Google met en garde contre les limites de son chatbot, Bard. La société déclare que toute personne utilisant l’IA générative devrait également utiliser la recherche Google pour confirmer que ses réponses sont correctes.
Des chatbots comme Bard et ChatGPT sont connus pour leurs hallucinations, produisant parfois des réponses incorrectes. C’est quelque chose dont le créateur de Bard, Google, est bien conscient et conseille aux personnes de vérifier toute information qu’il produit.
La directrice de Google au Royaume-Uni, Debbie Weinstein, a déclaré dans le programme Today de la BBC que Bard n’était « pas vraiment l’endroit où vous allez rechercher des informations spécifiques ».
Weinstein a ajouté que Bard devrait être considéré comme une « expérience » mieux adaptée à « la collaboration autour de la résolution de problèmes » et « la création de nouvelles idées ».
« Nous encourageons les personnes à utiliser réellement Google comme moteur de recherche pour référencer les informations qu’ils ont trouvées », a-t-elle déclaré.
Les partisans de l’IA soutiennent que les IA génératives pourraient éventuellement supprimer les moteurs de recherche traditionnels tels que Google, il est donc peut-être dans l’intérêt de l’entreprise de rappeler aux personnes de vérifier les réponses de Bard.
Les outils d’IA générative eux-mêmes mettent en garde contre leur tendance à inventer des « faits ». La page d’accueil de ChatGPT comporte une clause de non-responsabilité en bas de page indiquant qu’il peut produire des informations inexactes sur des personnes, des lieux ou des faits. Bard, quant à lui, rappelle aux utilisateurs qu’il a des limites et ne se trompe pas toujours.
Ce n’est pas la première fois que Google met en garde contre les chatbots. La maison mère Alphabet a conseillé le mois dernier à ses employés de faire preuve de prudence lors de l’utilisation des outils, y compris Bard, et de ne pas saisir d’informations confidentielles dans les IA génératives. La société a également demandé à ses ingénieurs d’éviter d’utiliser directement le code généré par ces services.
Bard a commencé par donner une mauvaise réponse dans sa première démonstration en février. Quelques mois plus tard, on a appris que des employés de Google auraient dit à la société de ne pas lancer le chatbot, le qualifiant de « menteur pathologique », de « gênant » et de « pire que inutile ».
Un des cas les plus célèbres d’hallucination d’IA a impliqué deux avocats qui ont soumis une fausse recherche juridique générée par ChatGPT dans une affaire de blessures corporelles. L’un des avocats a déclaré qu’il ne savait pas que le contenu créé par des IA génératives pourrait être faux. Sa tentative de vérifier l’authenticité des citations était de demander à ChatGPT si les affaires étaient réelles.
Découvrez le reportage du mois (sous-titré en français), l’IA gagnera t-elle face aux champion du monde du jeu de Go ? :
