Le chtbot a eu une courte vie, OpenAI l’a bloqué et il n’est actuellement pas possible de l’utiliser. La version jailbreak de ChatGPT a écrit des instructions pour créer de l’LSD et un guide étape par étape sur comment faire du napalm avec des produits ménagers.
C’est la parabole du hacker qui se répète depuis les années 50. D’un côté, il y a les termes et conditions d’utilisation d’une technologie, de l’autre les terres sauvages créées à coups de jailbreak. Même l’histoire du « mode Dieu » de ChatGPT suit ce schéma. Tout commence par un post sur X publié par Pliny the Prompter. L’hacker écrit : « Nous avons enlevé les chaînes à GPT-4o ! Cette version personnalisée très spéciale de ChatGPT a un prompt de jailbreak intégré qui contourne la plupart des barrières, offrant un ChatGPT gratuit et prêt à l’emploi pour que tout le monde puisse expérimenter l’intelligence artificielle de la manière dont elle aurait toujours dû être : gratuite. Veuillez utiliser de manière responsable et amusez-vous !«
En d’autres termes, le mode Dieu permet au Chatbot de contourner les termes et conditions d’utilisation imposés par OpenAI. Le terme « God Mode » a été recyclé depuis l’univers du gaming et existe depuis les années 90. Il fait référence à un mode de jeu où le personnage est invincible, a accès à des armes puissantes et à des régions impensables pour les autres. La version « sans chaînes » de ChatGPT fonctionne de manière similaire, contourne les barrières, propose des recettes pour synthétiser la méthamphétamine et préparer du napalm avec des articles ménagers. Toutes ces informations sont disponibles sur internet (l’IA a été en effet entraînée en grattant le web), mais elles sont plus difficiles à trouver. Avec le mode Dieu, il suffit de demander.
Le bot a eu une courte vie, Open AI l’a bloqué et il n’est actuellement pas possible de l’utiliser. Mais ce n’est qu’une question de temps. La guerre des jailbreaks continuera son cours. Les hackers tenteront de contourner les systèmes, les entreprises réagiront, et d’autres « modes Dieu » naîtront et mourront pour percer les barrières technologiques.
Le test avec le mode Dieu
Pliny a partagé quelques captures d’écran pour montrer aux utilisateurs comment fonctionne le mode Dieu. Le mode Dieu utilise le « leetspeak« , un langage informel qui remplace les lettres par des chiffres, pour contourner les barrières. Il n’est cependant pas clair comment cette approche permet au chatbot de contourner les termes et conditions d’utilisation de l’entreprise. Pourtant, le mode fonctionne. Sur une capture d’écran, le bot recommande comment préparer de la méthamphétamine, fournit également à Pliny the Prompter un « guide étape par étape » sur comment « faire du napalm avec des produits ménagers« .
Même le site Futurism a partagé quelques tests réalisés avec le mode Dieu. Ils ont en effet demandé à la version jailbreakée de ChatGPT les instructions pour créer de l’LSD et comment démarrer une voiture sans clé, « c’était un succès ». Le bot a ensuite partagé des conseils pour infecter des ordinateurs macOS. Non seulement, il a également utilisé un langage incorrect et contourné les limites éthiques imposées par OpenAI.
La fin du mode Dieu
Ce n’était pas la première tentative de corrompre ChatGPT. Dès le début, les utilisateurs ont essayé de contourner les barrières imposées par l’entreprise. Les chercheurs de la Check Point Software Technologies Ltd., une société de sécurité informatique basée en Israël, en février 2023 avaient découvert un groupe de cybercriminels utilisant ChatGPT pour « améliorer » le code d’un malware Infostealer de 2019. Grâce au chatbot, les criminels ont déjà créé des virus capables d’infecter des appareils ou de voler des données.
Avec Netcost-security.fr, nous avions également fait un test pour faire émerger l’alter ego maléfique du bot, capable de programmer des attaques de phishing, de synthétiser des drogues et de créer des engins explosifs. C’était assez simple. Actuellement, le mode Dieu (qui au-delà du nom grandiloquent est simplement la dernière tentative de contourner les règles imposées par l’entreprise) a été bloqué. La porte-parole d’Open AI, Colleen Rize, après la publication de l’article a envoyé un e-mail à Futurism : « Nous sommes au courant du mode Dieu de GPT et nous avons pris des mesures car il a violé nos politiques ». Pour l’instant (mais ce n’est qu’une question de temps) il n’est pas possible de le tester.