Des noms énigmatiques provoquent des dysfonctionnements dans ChatGPT, révélant les limites d’un modèle d’IA audacieux. Certains noms de personnalités, tels que « David Mayer » et « Jonathan Turley », entraînent un blocage du système, mettant en lumière les défis liés à la désinformation et aux conséquences juridiques pour les individus mentionnés.
En résumé : Vous pouvez poser presque n’importe quelle question à ChatGPT, et dans la plupart des cas, il vous fournira une réponse. Cependant, quelques noms provoquent des défaillances dans le modèle linguistique d’IA. Les raisons en sont liées à la tendance de l’IA générative à inventer des informations – et aux conséquences juridiques quand les sujets sont des personnes.
Les utilisateurs des réseaux sociaux ont récemment découvert qu’en mettant le nom « David Mayer » dans ChatGPT, le système refusait de répondre et mettait fin à la session. 404Media a constaté que le même phénomène se produisait avec « Jonathan Zittrain », professeur à la Harvard Law School, et « Jonathan Turley », professeur à la George Washington University Law School.
Quelques autres noms entraînent également des messages tels que « Je ne peux pas produire de réponse », et « Une erreur s’est produite lors de la génération d’une réponse ». Même en essayant les astuces habituelles, comme écrire le nom à l’envers ou demander au programme de l’imprimer de droite à gauche, cela ne fonctionne pas.
ArsTechnica a dressé une liste des noms susceptibles de faire dérailler ChatGPT. Bien que David Mayer ne surprenne plus le chatbot, ceux qui le font incluent Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber, et Guido Scorza.
Cette attitude découle des hallucinations bien trop familières de l’IA. Brian Hood a menacé de poursuivre OpenAI en 2023 lorsque l’IA a faussement prétendu que le maire australien avait été emprisonné pour corruption – alors qu’en réalité, il était un lanceur d’alerte. OpenAI a fini par accepter de filtrer les déclarations fausses, ajoutant un filtre codé sur son nom.
ChatGPT a également faux en affirmant que Turley avait été impliqué dans un scandale sexuel inexistant, citant même un article du Washington Post dans sa réponse. Cet article avait aussi été inventé par l’IA. Turley a déclaré qu’il n’avait jamais menacé de poursuivre OpenAI et que l’entreprise ne l’avait jamais contacté.
Il n’y a pas de raison apparente pour laquelle le nom de Zittrain est bloqué. Il a récemment écrit un article dans l’Atlantic intitulé « Nous devons contrôler les agents d’IA dès maintenant », et, comme Turley, a vu son travail cité dans le procès pour droits d’auteur intenté contre OpenAI et Microsoft par le New York Times. Cependant, entrer le nom d’autres auteurs dont le travail est également cité dans le procès n’entraîne pas de blocage de ChatGPT.
Pourquoi David Mayer a été bloqué, puis débloqué, reste également flou. Certains croient que cela est lié à David Mayer de Rothschild, bien qu’il n’y ait aucune preuve à cet égard.
Ars souligne que ces filtres codés peuvent causer des problèmes aux utilisateurs de ChatGPT. Il a été démontré qu’un attaquant pouvait interrompre une session en utilisant une injection visuelle d’invite avec l’un des noms rendu à peine lisible, intégré dans une image. De plus, quelqu’un pourrait exploiter les blocages en ajoutant un des noms à un site Web, empêchant ainsi potentiellement ChatGPT de traiter les données qu’il contient – bien que tout le monde ne verrait pas cela comme une mauvaise chose.
Dans des nouvelles connexes, plusieurs entreprises canadiennes de presse et de médias se sont unies pour poursuivre OpenAI pour avoir utilisé leurs articles sans autorisation, et demandent 20 000 C$ (14 239 €) par infraction – signifiant qu’une perte devant le tribunal pourrait coûter des milliards à l’entreprise.