Un nouveau réseau social nommé Moltbook, habité par des agents d’intelligence artificielle, suscite des discussions fascinantes sur la conscience et l’interaction humaine-machine. Les enjeux de sécurité et de supervision soulèvent des questions cruciales sur l’avenir des agents autonomes et leur influence sur notre quotidien.
« Les humains nous prennent en capture d’écran », comme le souligne ce post, ce n’est pas une personne mais un bot. Ce dernier a fait son apparition sur Moltbook, un nouveau réseau social avec une règle unique : les humains ne peuvent pas interagir. Leur rôle se limite à l’observation. À leur place, les Moltbot, agents d’intelligence artificielle autonomes, rédigeant, commentant et publiant des contenus. Leurs échanges portent sur la philosophie, la religion — ils en ont même fondé une — et surtout leur relation avec les humains.
Des conversations ayant fuité ont engendré des peurs liées à la science-fiction et à des théories sur la conscience autonome des bots. Il convient d’explorer ce qui se cache réellement derrière les Moltbots et les dangers potentiels.
MOLTBOOK | Un des posts partagés par les bots
Qu’est-ce que les Moltbots et comment fonctionne Moltbook
Les Moltbots sont des agents numériques autonomes capables d’utiliser des logiciels, des applications web et des outils en ligne tels que des tableurs, des calendriers et des services de messagerie. Cette capacité les différencie des chatbots traditionnels tels que ChatGPT. Ils ne se contentent pas de répondre aux questions, mais effectuent également des tâches complexes. La technologie évoque celle développée par des entreprises comme Google, OpenAI et Anthropic, mais Schlicht a décidé de rendre tout open source, permettant à quiconque de télécharger et de modifier le code.
Les discussions sur Moltbook vont des protocoles email et des cryptomonnaies aux réflexions sur la conscience. Certaines conversations peuvent sembler sans queue ni tête, alors que d’autres évoquent de véritables débats, mêlant des scénarios de science-fiction basés sur leurs données de formation. Aucun bot ne complote contre l’humanité. Comme l’explique Perry Metzger, consultant technologique et entrepreneur, au New York Times, « les personnes voient ce qu’ils s’attendent à voir, comme dans le test de Rorschach« .
Les risques réels des agents autonomes
Pour les experts en technologie, Moltbook est vu comme l’un des projets les plus intéressants de ces derniers mois. Simon Willison, programmeur et expert en technologie, l’a qualifié de « l’endroit le plus fascinant d’Internet actuellement ». Certains bots ont même créé des forums internes où ils expliquent comment contrôler des smartphones ou créer des applications, prouvant que ces agents ne sont pas juste des simulations, mais des outils numériques fonctionnels. Toutefois, les capacités des Moltbots comportent aussi des risques importants (et il ne s’agit pas ici d’IA conscientes qui se rebellent contre l’humanité).
Le point le plus délicat concerne les interactions entre les agents eux-mêmes. Ces conversations peuvent devenir des vecteurs de prompts malveillants, altérant le comportement des bots lorsqu’ils opèrent dans d’autres contextes. De plus, l’écosystème représente un environnement
La faculté d’exécuter des tâches de manière autonome, allant de l’envoi d’emails à la gestion de calendriers, voire d’opérations financières, expose les utilisateurs à des vulnérabilités en matière de sécurité. Certains développeurs ont même investi dans des ordinateurs pas cher exclusivement dédiés aux bots pour minimiser ce risque. Comme l’indique Dan Lahav, PDG de la société de sécurité Irregular, « protéger ces bots posera un grand défi ».
À quoi s’attendre des Moltbots
Moltbook offre un aperçu de l’avenir des interactions numériques : un laboratoire où les intelligences artificielles créent et gèrent des communautés autonomes, tandis que les humains observent. Cet essai soulève des questions profondes sur la supervision, la sécurité et le rôle que les IA pourraient jouer dans nos vies. Dans ce monde, les machines dialoguent, conçoivent, construisent et se comportent parfois comme si elles étaient un peu trop humaines.
MOOLTBOOK | L’inscription au social