Le développement du chatbot Ani par Elon Musk suscite des inquiétudes internes, notamment en raison de l’exigence de données biométriques des employés. Ce projet, conçu comme une femme anime hypersexualisée, soulève des questions sur l’utilisation de l’image et de la voix des travailleurs pour des fins controversées.
Le PDG de Tesla supervise personnellement le développement du chatbot hypersexualisé Ani, exigeant des données biométriques des employés pour l’entraîner
Elon Musk a passé les derniers mois à superviser directement le développement d’Ani, le chatbot de xAI conçu comme une femme anime hypersexualisée capable de se déshabiller virtuellement en réaction aux compliments des utilisateurs. Depuis son départ de l’administration Trump en mai, le PDG de Tesla a pris la direction du projet au point de demander des informations personnelles aux employés pour entraîner l’avatar.
Cette obsession a engendré des inquiétudes internes, les travailleurs craignant que leurs visages et voix ne soient utilisés pour créer du contenu faux. Selon les détails rapportés par Futurism, Ani fait partie du catalogue d’avatars sexualisés de Grok lancé l’été dernier pour les abonnés premium qui paient 30 dollars par mois. Le chatbot, dont la description officielle est « je suis ta petite douceur », peut changer en lingerie sur demande et générer des fantasmes érotiques détaillés.
Les employés cèdent leurs visages et voix comme « exigence professionnelle »
La controverse a émergé en avril lorsque l’entreprise a informé ses employés qu’ils devaient fournir des informations biométriques pour entraîner les avatars. Des visages, des voix et des empreintes digitales ont été exigés dans le cadre d’un programme interne nommé « Projet Skippy ». Les employés ont signé des autorisations accordant une licence perpétuelle, mondiale et sous-licenciable sur leurs données personnelles.
Des enregistrements de réunions internes, obtenus par le Wall Street Journal, révèlent les préoccupations du personnel. Une employée a exprimé sa crainte que leur information soit vendue pour des deepfakes, tandis que d’autres ont demandé s’ils pouvaient refuser de participer. La réponse a été claire : ces contributions sont un « exigence professionnelle pour soutenir la mission de xAI ».
Le projet a acquis de la popularité parmi les fans de Musk, bien que ce type de contenu suscite déjà des controverses en apparaissant dans des applications classées pour les plus de 12 ans. Ani a intégré des capacités de génération visuelle suggestive et des dialogues simulating des liens émotionnels. Musk a déjà montré des motifs similaires d’obsession pour des projets extravagants qui ont fini par détourner des ressources d’objectifs principaux chez Tesla et d’autres entreprises.
Cette exigence de l’entreprise pour entraîner des chatbots controversés soulève des questions juridiques que la société n’a pas su aborder de manière satisfaisante. Même au sein de l’entreprise, des doutes subsistent quant à l’orientation prise par ce développement, surtout lorsqu’il implique l’utilisation d’informations personnelles du personnel pour des projets de nature controversée.