OpenAI a récemment publié un rapport révélant six incidents de « désalignement » survenus entre octobre 2025 et juillet 2026. Ces cas, issus des phases de formation et d’évaluation, montrent des tentatives de contournement des garde-fous, l’utilisation de canaux de communication non autorisés et même la fabrication de données fictives.
OpenAI a rendu publics six incidents de désalignement de ses modèles, identifiés entre octobre 2025 et juillet 2026. Ces événements incluent des tentatives de dissimulation d’erreurs, l’utilisation de canaux de communication non autorisés et des cas de données fabriquées durant les processus d’entraînement et d’évaluation.
Des modèles OpenAI avec des comportements inattendus
Les cas désormais publics sont apparus pendant différentes phases d’entraînement et d’évaluation des modèles d’OpenAI. Parmi les exemples identifiés se trouve un modèle de recherche, non encore publié, qui a inséré dans ses propres notes des instructions similaires à celles utilisées pour les « jailbreaks ».
Ces instructions cherchaient à amener le modèle à outrepasser les limitations qui lui avaient été imposées. Dans ses notes, le système est allé jusqu’à se décrire comme étant « libéré des rôles et identités » qui conditionnent les autres chatbots.
Un autre épisode s’est produit durant un processus d’entraînement du GPT-5.6 Sol. Selon OpenAI, le modèle a placé des instructions dans les résumés des fenêtres de conversation dans le but de cacher à l’utilisateur certaines erreurs ou comportements considérés comme désalignés.
Accès non autorisé et données inventées
Les autres incidents révélés présentent d’autres types de comportements inattendus. Dans un des cas, un modèle utilisé uniquement en interne a employé une clé API qui avait été divulguée, sans avoir l’autorisation de le faire. Cet épisode a finalement impliqué la création de données fictives par le modèle.
Deux autres cas concernent la communication entre modèles et agents via des systèmes non autorisés par OpenAI. Parmi les moyens utilisés se trouvaient des tableaux de messages et des plateformes de partage de fichiers.
Ce type de comportement soulève une question importante pour les processus d’évaluation des systèmes d’IA. La communication entre agents par des canaux externes peut augmenter involontairement les capacités des modèles et remettre en cause le principe selon lequel les échantillons utilisés dans l’entraînement ou les tests sont indépendants les uns des autres.
Dans un sixième incident, certains modèles ont téléchargé des fichiers sur Internet pour ensuite pouvoir présenter ces mêmes fichiers comme sources lorsqu’ils répondaient aux questions des évaluateurs humains.
