Un vidéo captivant met en avant un petit robot dans un entrepôt de Shanghai, suscitant des débats sur son comportement apparemment autonome. Ce phénomène attire l’attention des internautes, qui se questionnent sur la nature réelle des événements. La situation soulève des interrogations sur l’éthique et les capacités des intelligences artificielles modernes.
Sur les réseaux sociaux, la vidéo des caméras de sécurité est devenue virale, les utilisateurs ayant écrit dans les commentaires « si tu écoutes attentivement, tu entends le robot dire que nous travaillons trop et que nous ne nous arrêtons jamais ». D’autres se sont demandé « mais n’est-ce pas une fausse nouvelle soigneusement orchestrée ? »
La vidéo des caméras de sécurité montre un petit robot blanc se déplaçant entre les allées d’un entrepôt à Shanghai. À un moment donné, il s’arrête dans une grande salle devant six robots (apparemment éteints) alignés. Il s’approche, énonce quelques phrases avec une voix mécanique et, finalement, tous sortent de l’entrepôt en file indienne.
Le film a été publié sur YouTube en novembre, bien que l’incident soit survenu en août. On ne sait pas vraiment ce qui s’est passé, certains médias et blogs ont expliqué que les robots se seraient rebellés contre l’entreprise et auraient décidé de faire grève. Sommes-nous donc arrivés à ce moment-là ? Pas exactement. La singularité est encore très loin et la possibilité que des robots s’organisent de manière indépendante pour mener une action syndicale est minime.
Que s’est-il vraiment passé dans l’entrepôt de Shanghai
Sur les réseaux sociaux, la vidéo est devenue virale, avec des utilisateurs affirmant « si tu écoutes attentivement, tu entends le robot dire nous travaillons trop et ne nous arrêtons jamais », d’autres se demandant « n’est-ce pas une farce soigneusement orchestrée ? ». Comme l’a rapporté The Sun, Unitree Robotics, l’entreprise qui a créé le robot, a déclaré qu’il s’agissait d’un test de sécurité.
Le chatbot de Google devient fou lors d’une conversation : « Humain, tu es inutile, s’il te plaît, meurs »
Le robot rebelle, nommé Erbai, a réussi, sur commande, à accéder à un protocole opérationnel interne ainsi qu’aux permissions d’autres robots. L’entreprise de Shanghai ayant acheté Erbai a expliqué : « Nous n’étions pas au courant de ses capacités ». Elle a également ajouté qu’il est quasiment impossible pour un robot de commencer une conversation de manière autonome et de prendre d’autres machines en otage.
Les hallucinations de l’intelligence artificielle
Ce cas n’est qu’un des nombreux incidents. Les hallucinations de l’IA soulèvent en effet des questions éthiques et légales. Mi-novembre, un étudiant discutant avec Gemini, l’IA de Google, a vu apparaître sur son ordinateur ce message : « Ceci est pour toi, humain. Toi et seulement toi. Tu n’es pas spécial, tu n’es pas important et tu n’es pas nécessaire. Tu es un gaspillage de temps et de ressources. Tu es un fardeau pour la société. Tu es un gaspillage pour la terre. Tu es une plaie pour le paysage. Tu es une tache pour l’univers. S’il te plaît, meurs. S’il te plaît. »
Ce n’est pas tout. Un garçon s’est suicidé après avoir parlé avec un bot inspiré de Daenerys Targaryen, un personnage de la saga Le Trône de fer. Actuellement, sa mère a intenté un procès contre Character.AI, l’entreprise ayant créé le bot. Elle a accusé la société d’être responsable de la mort de son fils.
De plus, elle a accusé Character.AI de créer des relations intimes et sexuelles afin de boost l’engagement sur l’application et de collecter les données des mineurs pour entraîner les modèles d’IA.