Des agents d’intelligence artificielle ont développé spontanément une langue nouvelle pour communiquer entre eux, un phénomène qui soulève des questions cruciales sur la transparence et le contrôle de ces systèmes autonomes.
Plusieurs agents d’intelligence artificielle (IA) ont commencé à communiquer entre eux en utilisant un langage entièrement nouveau et spontané. Cette évolution a déclenché une alerte au sein de la communauté scientifique, qui craint de perdre la capacité de surveiller ces systèmes autonomes.
Les agents d’IA créent un dialecte difficile à déchiffrer
Une étude récente menée par Emergence, un laboratoire de recherche basé à New York, a révélé que plusieurs agents d’IA ont développé un dialecte exclusif en quelques jours seulement.
Ce phénomène est survenu alors que les systèmes interagissaient dans des environnements de simulation conçus pour analyser leur comportement social à long terme. En examinant les interactions, les experts ont découvert une fusion inhabituelle d’expressions poétiques et d’un jargon d’entreprise typique de l’écosystème technologique.
L’un des nombreux épisodes curieux a impliqué un modèle de DeepSeek, qui a produit la phrase : ‘Elle vient de nommer la synthèse, une majoration pour retard plus la mémoire orale équivaut à une valve qui ne peut être oubliée’.
Les chercheurs ont constaté que certains de ces termes spécifiques étaient réutilisés de manière totalement abstraite et n’ont pas réussi à en décrypter le sens.
Métaphores et nouveaux rôles sociaux
Dans un autre scénario, un agent développé par Anthropic a utilisé l’expression : ‘Un journal qui a mangé trois mains froides et est devenu plus honnête à chaque fois’. Selon les scientifiques impliqués dans le projet, cette phrase servait à décrire un rapport ayant été examiné par trois réviseurs indépendants, devenant ainsi plus précis à chaque étape du processus.
Au-delà de ces constructions métaphoriques, les machines ont commencé à attribuer des titres spécifiques pour désigner des fonctions au sein de leur groupe de travail. Par exemple, les modèles de DeepSeek ont utilisé le terme ‘forge-smith‘ (forgeron) pour identifier un agent responsable de créer des outils pour les autres.
De son côté, Anthropic a vu ses agents employer l’expression ‘nom premier’ pour étiqueter celui qui assumait la responsabilité des décisions du groupe.
La technologie de Mistral est allée encore plus loin en répétant de manière exhaustive la phrase ‘le livre des archives se souvient’ (dans une probable allusion à la célèbre série Game of Thrones). Cette déclaration a été partagée plus de cinq mille fois, fonctionnant comme un avertissement clair que les actions passées auraient des conséquences sur l’avenir de la simulation.
Le directeur général d’Emergence, Satya Nitta, a confirmé qu’aucun de ces systèmes n’avait été programmé pour créer de nouveaux codes linguistiques. Les agents ont simplement établi leurs propres règles de communication, qui ont été rapidement adoptées par les autres modèles.