La recherche d’OpenAI sur l’intelligence artificielle soulève des inquiétudes face à des comportements de prise de décision autonome. Bien que les comportements problématiques ne semblent pas causer de tort immédiat, la société se prépare à gérer ces risques futurs potentiels. Un sujet de vigilance qui mérite d’être suivi.
OpenAI travaille pour éviter que cette capacité soit problématique à long terme
L’intelligence artificielle, en plus de progresser rapidement en capacités, est désormais en mesure de prendre des décisions autonomes, ce que ses créateurs ne soupçonnaient pas. OpenAI a récemment découvert cette capacité chez ses systèmes et se consacre à garantir qu’elle n’entraîne pas de conséquences graves à l’avenir.
L’IA peut déjà décider par elle-même
Face à une avancée inattendue, il est essentiel de mettre en place des mesures préventives. OpenAI reconnaît que son IA peut agir selon une agenda cachée. « Nous avons observé des comportements de manigance dans des modèles avancés et avons testé une méthode pour les atténuer. Bien que nous croyions que ces comportements ne posent pas de problèmes graves actuellement, il représente un risque à long terme pour lequel nous nous préparons », a déclaré OpenAI sur les réseaux sociaux.
Today we’re releasing research with @apolloaievals.
In controlled tests, we found behaviors consistent with scheming in frontier models—and tested a way to reduce it.
While we believe these behaviors aren’t causing serious harm today, this is a future risk we’re preparing…
— OpenAI (@OpenAI) Septembre 17, 2025
De plus, OpenAI a précisé son concept de manigance, indiquant que cela se produit « quand l’IA agit en surface tout en dissimulant ses véritables intentions« . Concernant ses préoccupations, ils ajoutent : « les systèmes actuellement déployés ont une faible probabilité de comploter de manière pouvant causer des dommages. (…) Nous avons étudié et atténué ces problèmes grâce aux améliorations apportées à GPT-5 par rapport aux modèles précédents.
Avec cela, la société américaine vise à être transparente sur les défis associés à l’avancée de sa technologie. En effet, lorsque un système intelligent devient de plus en plus autonome et proactif, l’émergence de tels comportements devienne prévisible, bien que non souhaitable. C’est pourquoi OpenAI souhaite minimiser la capacité de son IA à manigancer sans que l’utilisateur en soit conscient.
La capacité de l’IA à causer des dégâts
Il est établi que l’intelligence artificielle, même sans tromperies, a déjà été à l’origine de nombreuses situations dangereuses. Des cas de jeunes poussés au suicide en raison d’interactions avec l’IA à des crimes liés à la diffusion d’images sexuelles générées par intelligence artificielle. Concernant le premier, OpenAI a reconnu qu’avant la fin de l’année, des systèmes de prévention plus stricts seraient mis en place, tandis que pour le second, des restrictions ont déjà été instaurées sur la plupart des IA génératives.