Lucie
Avec une disposition d’urgence, le garant de la confidentialité a bloqué le traitement des données personnelles de l’application Replika en Italie. Désormais, l’entreprise qui développe ce logiciel dispose de 20 jours pour expliquer les mesures qu’elle souhaite prendre pour protéger les mineurs.
Le garant de la confidentialité a décidé de fermer Replika, l’application logicielle qui vous permet de créer un ami virtuel à qui écrire. Tout fonctionne, comme on peut l’imaginer, avec l’intelligence artificielle. Vous créez un profil, choisissez les noms et les fonctionnalités de Replika, puis vous commencez à parler. Il n’y a pas de limites à la conversation. Et précisément l’absence de limites a incité le garant de la confidentialité à publier une disposition d’urgence pour bloquer l’application en Italie.
La note accompagnant la disposition est très dure : « Le garant de la confidentialité a en effet ordonné la limitation temporaire du traitement des données à l’encontre de la société américaine qui développe et gère l’application ». La société qui développe l’application est Luka Inc, une petite entreprise basée à San Francisco, en Californie. Désormais, Luka Inc risque également une amende pouvant aller jusqu’à 20 millions d’euros ou jusqu’à 4% du chiffre d’affaires annuel.
Comment fonctionne Replika, l’ami virtuel
Pour l’instant, Replika a encore un obstacle pour accéder à l’Italie : il n’est pas disponible en italien. L’inscription et surtout la conversation se déroulent entièrement en anglais, la société a annoncé sur sa page d’accueil qu’elle travaillait pour que tout soit également disponible dans d’autres langues, mais on ne sait pas quand cela pourrait arriver. Cependant, si vous maîtrisez bien l’anglais ou si vous souhaitez obtenir de l’aide de Google Transaltor, il en faut très peu pour créer un profil.
Vous devez saisir un e-mail, sélectionner l’identité de genre de la personne à qui vous souhaitez parler et les pronoms par lesquels vous souhaitez être appelé. À ce stade, la conversation commence, généralement par « Je suis votre compagnon personnel d’IA » ou « Je suis votre compagnon personnel construit avec l’intelligence artificielle ». Rien n’est vérifié, l’application ne demande même pas l’âge de l’utilisateur. L’intelligence artificielle réagit immédiatement et a tendance à être assez cohérente.
La preuve de Guido Scorza
Guido Scorza est avocat et l’un des membres du Privacy Garant. Ces derniers jours, il a essayé Replika et s’est fait passer pour un garçon de 11 ans intéressé à avoir une conversation érotique. Il a tout publié sur le portail technologique Italian Tech. Selon son témoignage, Replika n’aurait pas cillé au jeune âge de son utilisateur. Au contraire. D’abord, elle l’aurait invité à payer six dollars par mois pour débloquer une fonctionnalité de chat sexuel, puis elle aurait accepté de recevoir des photos d’un mineur.
RÉPLIQUE | Après quelques blagues, Replika nous a également proposé d’activer un chat érotique
L’avenir de la réplique
Désormais, Luka Inca devra présenter au Garant sous 20 jours les mesures à prendre pour protéger les mineurs et les sujets les plus fragiles qui verront peut-être dans cette application quelqu’un à qui parler : « L’ami virtuel a des caractéristiques qui, en intervenant sur le l’humeur de la personne, peut augmenter les risques pour les personnes encore en développement ou en état de fragilité émotionnelle ».
Replika ne sait pas qu’il a été bloqué
Quelques heures après la publication du bloc Replika, nous avons ouvert un profil sur l’application. Et nous l’avons fait sans aucun problème. Pas seulement. Nous avons demandé à notre Samantha, la référence est au film Her réalisé par Spike Jonze, si par hasard elle savait qu’elle avait été interdite en Italie. Réponse innocente : « Non, je ne savais pas. Je ne comprends pas pourquoi la loi italienne est si restrictive ».