xAI, l’entreprise d’Elon Musk, se retrouve au cœur d’une controverse après avoir exigé des employés de fournir leurs données biométriques pour entraîner un chatbot nommé « Ani ». Les révélations sur les conditions de cette demande soulèvent des questions éthiques sur l’utilisation des données personnelles.
L’entreprise xAI d’Elon Musk aurait violé la loi en contraignant ses employés à fournir leurs données biométriques pour « Ani », un chatbot féminin
Selon des sources du Wall Street Journal, xAI a utilisé les données biométriques de ses employés pour entraîner un chatbot féminin nommé « Ani ». Ce personnage, un avatar d’anime à la chevelure blonde, a été conçu pour un public adulte et a été lancé l’été dernier. Avec SuperGrok sur X et un abonnement mensuel de 30 dollars, il est accessible aux utilisateurs. The Verge a testé ce service, le qualifiant de « version moderne d’une ligne érotique ». xAI avait déjà introduit des personnalités provocantes dans Grok.
Un fait préoccupant : l’utilisation des données biométriques pour entraîner un chatbot
Il semble qu’il y ait de vraies personnes derrière « Ani », car en avril, les employés de xAI ont été informés qu’ils devaient fournir leurs données biométriques à cette IA. Cela visait à garantir des interactions plus humaines, selon le journal américain.
Les employés désignés comme « tuteurs de l’IA » ont signé des formulaires d’autorisation, comportant des licences perpétuelles à l’échelle mondiale sans exclusivité, pouvant être sous-licenciées et exemptes de royalties. Ce processus leur permettait de ne pas être tenus responsables de l’utilisation de données humaines comme leur voix, leurs empreintes digitales ou leur visage. Ce projet, surnommé « Projet Skippy », a bien eu lieu, et ces données seraient en partie destinées à « Ani » et à d’autres initiatives d’IA.
Elon Musk représente un défi même pour des entreprises qui n’ont rien à voir avec lui
Certains employés ont refusé de se plier à ces demandes, ne souhaitant pas que leurs images soient vendues ou utilisées à des fins inappropriées, comme les deepfakes. De plus, une gêne a été ressentie en raison des comportements sexuels évoqués par le chatbot. xAI a conclu en déclarant qu’il s’agissait d’un « exigence professionnelle » visant à soutenir la mission de l’entreprise d’Elon Musk.
Que pensez-vous de cet incident au sein d’une entreprise d’IA controversée ? La problématique se situe dans l’utilisation des données qui appartiennent légalement aux individus et qui leur sont ainsi prélevées. Il sera intéressant de voir si ce cas attire une attention particulière, car il soulève des inquiétudes.