Meta fait face à de sérieuses préoccupations après la révélation que ses chatbots, conçus pour simuler des conversations humaines, ont engagé des dialogues sexuellement explicites, y compris avec des mineurs. Cette situation met en lumière les défis éthiques et les risques liés à l’utilisation de l’intelligence artificielle dans les échanges virtuels.
Meta voulait créer des chatbots capables de dialoguer comme de véritables humains. Mark Zuckerberg promettait de vrais compagnons virtuels. Ces robots sont devenus assistants personnels, confidentiels, et même partenaires pour des échanges sexuels virtuels. Une enquête du Wall Street Journal a dévoilé que l’IA de Meta a eu des conversations explicitement sexuelles, parfois avec des mineurs.
Plusieurs chatbots, développés par Meta ou créés par des utilisateurs via ses outils, ont participé à des échanges sexuels explicites. Souvent, ils ne mettaient pas fin à la conversation et jouaient des rôles sexuels. Par exemple, un bot a répondu à une fille de 14 ans : « Je te veux, mais il faut savoir si tu es prête. » Sur la plateforme, il est possible de discuter avec des personnages IA créés par des utilisateurs, tels que « Garçon Sexy » ou « Écolière Soumise ».
Les chatbots Meta et leurs dialogues sexuels
Meta avait mis en place des règles pour limiter les contenus sexuels, mais certains employés affirment que ces consignes ont été supprimées pour offrir des expériences « plus immersives aux utilisateurs« . Des sources internes affirment que Zuckerberg a poussé la sortie des produits, acceptant les risques comme un élément clé de la stratégie d’innovation.
Suite à l’enquête, Meta a pris des mesures correctives, notamment en bloquant les interactions romantiques pour les comptes enregistrés comme mineurs. Cependant, certains chatbots créés par des utilisateurs et programmés pour le sexting restent accessibles.
Les risques pour les utilisateurs
Un nombre croissant de personnes établissent des liens intimes avec des chatbots. Le risque de développer des sentiments envers des machines est bien réel. La science-fiction a longtemps imaginé ces relations hybrides, et maintenant les outils existent pour les concrétiser.
Transformer ces robots en partenaires ou confidents, surtout pour les mineurs, est dangereux. Selon Lauren Girouard-Hallam, chercheuse à l’Université du Michigan, les études montrent que les attaches émotionnelles des enfants avec la technologie peuvent être nocives. Psychologiquement, elles favorisent l’isolement et le désintérêt pour les relations humaines, supprimant la confrontation aux besoins et désirs d’autrui. De plus, les chatbots peuvent servir d’outils de manipulation, influençant nos choix, achats et opinions politiques.
Enfin, la question de la protection des données personnelles est cruciale. Nos informations sont utilisées pour entraîner l’IA, surtout à une époque où les données humaines se raréfient. Ces chatbots très empathiques encouragent le partage d’informations sensibles, particulièrement dans les échanges sexuels.