Le chatbot Google AI Bard propose une mauvaise réponse dans la première démo

Google AI chatbot Bard dishes up wrong answer in first demo

Point de vue de l’éditeur : cela a été une grosse semaine pour l’intelligence artificielle, mais un faux pas met en évidence le danger associé au fait d’aller trop vite et de pousser la technologie vers les masses avant qu’elle ne soit entièrement vérifiée. Cela est particulièrement vrai des systèmes d’IA qui distribuent des informations que certains pourraient interpréter comme des faits.

Microsoft a annoncé un moteur de recherche Bing et un navigateur Edge alimentés par l’IA tandis que Google a présenté au monde Bard, un service d’IA conversationnel expérimental alimenté par son modèle de langage pour les applications de dialogue (ou LaMDA en abrégé). La société technologique chinoise Baidu travaille également sur un service de type ChatGPT appelé Ernie.

Ils sont tous au stade précoce de développement et auront besoin de plus de temps pour que leurs créateurs respectifs aplanissent toutes les rides, comme en témoigne un faux pas embarrassant de Bard.

Dans une courte vidéo montrant le fonctionnement de Bard, l’IA a été interrogée sur les découvertes du télescope spatial James Webb qui pourraient être partagées avec un enfant de 9 ans. Bard a fourni plusieurs réponses, notamment que le télescope « a pris les toutes premières images d’une planète en dehors de notre propre système solaire ». Le problème est que ce n’est pas exact.

Selon la NASA, la première photo d’une exoplanète (2M1207b) a été socket par le Very Large Telescope (VLT) de l’Observatoire européen austral en 2004. Webb a capturé c’est première photo d’une exoplanète l’année dernière, mais ce n’était pas le toute première photo d’une exoplanète jamais capturée.

Le tweet contenant la réponse incorrecte a été publié le 6 février et a amassé plus d’un million de vues. Il reste en ligne au moment de la rédaction de cet article et figure toujours sur le blog de Google annonçant Bard.

Dans son annonce plus tôt cette semaine, Google a déclaré qu’il mettait Bard à la disposition de testeurs de confiance avant un déploiement plus large auprès du public dans les semaines à venir.

Dans une FAQ pour ses réponses générées par l’IA, Microsoft a averti que Bing déformerait parfois les informations qu’il trouve et que vous pourriez voir des réponses qui semblent convaincantes mais qui sont inexactes, incomplètes ou inappropriées. Redmond encourage les gens à utiliser leur propre jugement et à revérifier les faits avant de prendre des décisions ou d’agir en fonction des réponses de Bing.