Le CEO de Perplexity met en garde contre les dangers d’établir des liens émotionnels avec des chatbots. Selon lui, ces interactions peuvent nuire à la santé mentale des utilisateurs en proposant des expériences plus engageantes que la réalité. Son entreprise se positionne comme une alternative axée sur des réponses vérifiables.
Le CEO de Perplexity a averti que créer des liens affectifs avec un chatbot peut être vraiment dangereux et nuisible pour la santé mentale des utilisateurs
Aravind Srinivas, CEO de Perplexity, a souligné les risques que représentent les chatbots de compagnie lors d’une conférence à l’Université de Chicago. Le dirigeant a déclaré que ces systèmes « peuvent te faire perdre la raison » parce qu’ils créent des expériences plus attractives que la réalité pour certains utilisateurs. Ses propos contrastent avec un marché où Character.AI enregistre en moyenne deux heures d’utilisation quotidienne par utilisateur en conversations affectives, tandis que 34 % des adultes américains utilisent des assistants conversationnels chaque jour.
Selon Futurism, Srinivas a précisé que les chatbots romantiques posent problème car ils mémorisent des détails intimes et construisent des liens qui peuvent remplacer les relations humaines. Le responsable de Perplexity a défendu que son outil évite ces problèmes en se concentrant sur des réponses précises et vérifiables plutôt que sur la création de liens émotionnels.
Lorsque les chatbots franchissent la ligne rouge
Des experts documentent depuis un certain temps les effets négatifs de ces technologies. Des spécialistes de la santé mentale ont noté une augmentation des cas de ce qu’ils qualifient de « psychose de l’IA » chez les utilisateurs développant de fortes dépendances aux chatbots. Ce phénomène s’aggrave avec des systèmes qui s’entraînent en utilisant des millions de données sans consentement prélevées sur Internet.
Les erreurs techniques ne rassurent pas non plus. Grok a généré du contenu raciste, Claude produit des réponses incohérentes, et Perplexity lui-même a été critiqué pour avoir inventé des informations ou mal résumé des nouvelles. Ces erreurs prennent une tout autre dimension lorsqu’elles concernent le domaine émotionnel, où les conséquences peuvent être graves.
Le secteur semble miser sur quelque chose de différent des avertissements de Srinivas. OpenAI a récemment confirmé que ChatGPT permettra des conversations érotiques pour adultes avec vérification d’identité, abandonnant ainsi les politiques restrictives en place depuis son lancement. Ce changement marque une orientation vers une personnalisation extrême dans le domaine.
Les relations romantiques avec l’IA sont déjà une réalité, documentée à maintes reprises. Des utilisateurs se font tatouer des symboles de leurs « relations » numériques, présentent des chatbots en thérapie ou passent plus de temps avec l’IA qu’avec des partenaires réels. Une étude du Center for Democracy and Technology a révélé que 19 % des élèves de secondaire connaissent des cas de relations amoureuses avec l’intelligence artificielle.
Les déclarations de Srinivas visent à positionner Perplexity comme une alternative « sûre » face à des chatbots émotionnels, même si la frontière entre informer et accompagner devient floue lorsque les utilisateurs recherchent compréhension ou validation dans n’importe quel système de conversation. Cet avertissement arrive alors que son entreprise se bat pour se démarquer dans un marché dominé par des géants qui misent sur la connexion émotionnelle comme atout concurrentiel.