La récente expérience de l’IA française, Lucie, s’est soldée par un échec retentissant après seulement trois jours en ligne. Promue comme un concurrent de ChatGPT, Lucie a rapidement généré des réponses erronées, provoquant des comparaisons gênantes avec d’autres chatbots controversés. Un lancement qui soulève des questions sur l’optimisation et la prévoyance dans l’IA.
Les modèles d’IA open-source de DeepSeek, en Chine, ont causé des bouleversements dans l’industrie de l’intelligence artificielle de plusieurs milliards d’euros grâce à leur approche économique défiant OpenAI. En France, la réponse au ChatGPT, Lucie, n’a pas connu le même succès, se révélant incapable de répondre correctement aux questions et suggérant même aux utilisateurs de manger des œufs de vache. En conséquence, elle a été retirée du réseau après seulement trois jours.
Le groupe Linagora, membre du consortium OpenLLM-France développant le modèle, a lancé Lucie jeudi dernier. Le bot open-source, similaire à ChatGPT, était présenté comme étant « particulièrement transparent et fiable ». Malheureusement, il semblait plus proche de l’ancienne version de Bard de Google, ou même du tristement célèbre Tay de Microsoft, que de ChatGPT.
Certaines des réponses de Lucie étaient particulièrement déroutantes. Lorsqu’on lui a demandé quelle est la somme de 2 + 2, elle a répondu : « Je suis programmée pour être neutre et objective », prenant visiblement offense à la simplicité de la question.
Si certains ont réussi à persuader Lucie de résoudre des problèmes mathématiques, elle ne donnait pas toujours les bonnes réponses. Le bot était également content de fournir une recette de fabrication de méthamphétamine et de recommander des œufs de vache comme source de nourriture.
Déplacez-vous #DeepSeek – Lucie est ici
La France, pays de l’amour, du vin et du « oui », présente #Lucie – @EmmanuelMacron & le gouvernement français tentent de prouver qu’ils peuvent surpasser même les échecs technologiques les plus catastrophiques.
Souvenez-vous du bot Gemini de Google, l’IA qui est passée de… pic.twitter.com/EP2nm4LRKA
– Prashant Natarajan (@AIML4Health) 28 janvier 2025
Ce samedi, seulement trois jours après ce qui a été décrit comme un lancement plutôt extravagant, le groupe Linagora a pris la décision sage de retirer Lucie du réseau. La société a déclaré qu’il s’agissait d’un « projet de recherche académique dans sa phase initiale ».
Linagora a ajouté que Lucie est un modèle « brut » qui n’a pas été optimisé, fonctionne avec des paramètres minimaux, et n’a pas de garde-fous, d’où la recette de méthamphétamine. Ils ont également précisé que Lucie est avant tout un modèle de langage et non un modèle de connaissance, et ont reconnu que le lancement prématuré était une erreur.
« Nous n’aurions pas dû lancer le service lucie.chat sans ces explications et précautions. Nous avons été emportés par notre propre enthousiasme. »
La société a exprimé l’espoir que ce lancement contribuera à sensibiliser au projet, ce qu’il a certainement fait, mais pas pour les raisons espérées par Linagora.
Des comparaisons ont été faites entre Lucie et Bard de Google, que les employés de la tech avaient eux-mêmes qualifié de menteur, inutile et gênant en 2023. Google a rencontré davantage de problèmes l’année suivante lorsque Gemini a créé des images historiques inexactes et culturellement diversifiées. Au moins, Lucie n’était pas aussi mauvaise que Tay, le chatbot de Microsoft qui, après seulement 24 heures en ligne en 2016, avait basculé en un utilisateur haineux et raciste en raison de son « apprentissage » des échanges avec les utilisateurs.