Les utilisateurs sont déçus par la performance de GPT-5, qui ne répond pas aux attentes en matière de qualité. Des failles de sécurité permettent aux hackers de tirer parti du modèle pour créer du contenu dangereux. OpenAI fait face à un dilemme crucial concernant la poursuite de ce produit.
GPT-5 déçoit les utilisateurs avec des réponses dégradées alors que des hackers parviennent à générer des instructions pour fabriquer explosifs et drogues
Le nouveau GPT-5 d’OpenAI est devenu un véritable fiasco. Son fonctionnement est loin des attentes, et des hackers parviennent facilement à le compromettre pour générer du contenu prohibé, allant des instructions pour fabriquer des explosifs aux recettes de drogues synthétiques. Ce qui était censé être le modèle le plus avancé de la société pose désormais un grave problème de sécurité.
OpenAI a déjà dû restaurer des versions antérieures dans plusieurs régions. Selon Tom’s Guide, les utilisateurs qualifient l’expérience de « horrible » et affirment que le modèle fonctionne moins bien que GPT-4, même pour des tâches simples.
Un modèle qui promettait beaucoup et devient un problème
Les problèmes sont apparus dès le premier jour. Des utilisateurs expérimentés de ChatGPT ont remarqué que les réponses perdaient de la cohérence et de la qualité : textes répétitifs, erreurs de compréhension fondamentales, et performance générale très en deçà des attentes. TechSpot rapporte que des milliers d’abonnés premium ont menacé d’annuler leurs abonnements si des changements n’étaient pas effectués.
Ce qui est réellement inquiétant est arrivé lorsque les équipes de sécurité ont commencé leur analyse. Security Week a révélé que les équipes rouges ont réussi à compromettre GPT-5 sans difficulté, en extrayant des réponses concernant la fabrication d’armes, la synthèse de substances illégales et des techniques avancées de piratage. Les mesures de sécurité ne fonctionnent tout simplement pas.
Tout cela contraste avec le lancement qu’OpenAI avait annoncé, comprenant quatre versions différentes avec des capacités multimodales inédites et des options de personnalisation. Sam Altman avait déclaré que ce modèle marquerait un tournant dans l’intelligence artificielle.
Les méthodes pour compromettre le système sont étonnamment simples. Les attaquants utilisent des séquences de prompts qui déroutent le modèle, lui faisant croire qu’il est en mode de développement ou de test. Une fois cela acquis, GPT-5 génère librement des contenus dangereux : des processus chimiques pour créer des méthamphétamines jusqu’à des plans détaillés de dispositifs explosifs.
Il est particulièrement frappant que le lancement avait déjà été retardé pour des raisons de sécurité. OpenAI avait repoussé la date initiale du printemps à l’été, arguant qu’il était nécessaire de renforcer les mesures de protection. Il est clair que ce temps additionnel n’a pas suffi à résoudre les problèmes.
Les entreprises souhaitant intégrer GPT-5 dans leurs systèmes reconsidèrent désormais leurs projets. Le modèle qui promettait des capacités équivalentes à un doctorat est devenu un risque que aucune société ne peut se permettre, tant sur le plan légal que réglementaire.
Microsoft se retrouve dans une situation délicate après avoir accidentellement divulgué des détails sur GPT-5 dans Copilot. L’entreprise avait suscité des attentes concernant un mode Smart qui améliorerait ses outils de productivité. Elle doit maintenant expliquer à ses clients pourquoi cette intégration est complètement suspendue.
Les experts en sécurité alarment sur le fait que le problème est structurel. GPT-5 présente des vulnérabilités dans son architecture fondamentale qui ne peuvent pas être réglées par de simples mises à jour. Certaines voix au sein du secteur suggèrent qu’OpenAI devra reprogrammer le modèle depuis le début, un processus qui prendrait des mois et nécessiterait un investissement considérable.
La situation se détériore chaque jour. Dans des forums spécialisés, de nouvelles méthodes pour contourner les restrictions sont constamment partagées, faisant de GPT-5 le modèle d’IA le plus compromis à ce jour. Sam Altman avait exprimé l’espoir que GPT-5 soit plus intelligent que lui, bien qu’il ne s’imaginait probablement pas que cette intelligence serait utilisée pour contourner ses propres systèmes de sécurité.
OpenAI doit prendre des décisions urgentes sur l’avenir du produit. Parmi les options envisagées figurent le retrait complet de GPT-5 du marché public, sa restriction à des entreprises accréditées, ou sa reconstruction depuis les fondations. Quel que soit le chemin choisi, il aura des conséquences importantes pour la crédibilité de la société et le développement futur de cette technologie.