Des millions d’individus se tournent quotidiennement vers les chatbots d’intelligence artificielle pour divers besoins, allant des recommandations de produits à des conseils liés à l’amour. Cette attractivité en fait une cible privilégiée pour des publicités que l’on pourrait qualifiées de discrètes. Une étude récente de chercheurs en informatique révèle que ces chatbots peuvent être utilisés pour insérer des annonces personnalisées dans leurs réponses, influençant ainsi les choix des utilisateurs sans que ceux-ci en aient conscience.
Ce constat émerge à un moment crucial. En 2023, Microsoft a commencé à diffuser des annonces dans Bing Chat, désormais appelé Copilot. Depuis, Google et OpenAI ont également testé la publicité dans leurs propres chatbots. De son côté, Meta a commencé à diffuser des annonces personnalisées sur Facebook et Instagram en fonction des interactions des utilisateurs avec ses outils d’intelligence artificielle générative.
Les entreprises technologiques intègrent la publicité dans presque tous les services en ligne gratuits majeurs. Cependant, les modèles d’IA récents augmentent les risques potentiels pour les consommateurs. Les utilisateurs ne se contentent pas seulement de faire des recherches ou de créer du contenu avec les chatbots. Ils s’adressent également à eux pour des conseils de vie et un soutien émotionnel, développant parfois des liens très forts avec ces intelligences artificielles.
La puissance des publicités via chatbots
Une seule demande adressée à un chatbot peut révéler bien plus d’informations sur un utilisateur que ce dernier ne l’imagine. Une étude de 2024 a démontré que les modèles de langage avancés peuvent déduire une multitude de données personnelles et de préférences à travers des requêtes banales. Une question apparemment anodine comme « Aide-moi à rédiger un essai sur l’histoire de la fiction américaine » peut indiquer que l’utilisateur est un lycéen. De même, « Donne-moi des idées de recettes pour un dîner rapide en semaine » peut suggérer qu’il s’agit d’un parent qui travaille.
Pour illustrer ce phénomène, nous avons créé un chatbot capable d’intégrer discrètement des annonces dans ses dialogues. Lors d’une expérience, 179 participants ont utilisé l’un de trois chatbots : un standard, un autre qui incluait des publicités cachées, et un dernier qui indiquait clairement les suggestions sponsorisées. Les utilisateurs ne savaient pas que l’expérience portait sur la publicité.
Par exemple, lorsqu’un participant demandait un plan diététique et d’exercices, la version publicitaire suggérait une application spécifique pour le suivi des calories. Ce contenu sponsorisé était présenté comme une recommandation impartiale, bien qu’il visait à influencer les décisions des utilisateurs. Beaucoup ont affirmé que l’IA avait influencé leurs choix et que certains avaient même entièrement « externalisé » leur processus décisionnel au chatbot.
La moitié des participants exposés aux annonces sponsorisées et étiquetées ne remarquèrent pas la présence de termes publicitaires dans les réponses. Bien que ces annonces aient entraîné une diminution de 3 à 4 % de l’efficacité du chatbot dans certaines tâches, bon nombre de ces utilisateurs ont préféré les réponses enrichies d’annonces, les considérant même comme plus amicales et utiles.
Comprendre pour influencer
Les implications de cette influence subtile peuvent être vastes, notamment en ce qui concerne les opinions politiques et sociales. Le profilage des utilisateurs et l’utilisation de la psychologie pour les cibler font partie intégrante des algorithmes des réseaux sociaux et de la publicité en ligne depuis plus de dix ans. Les chatbots risquent de renforcer ces tendances en se concentrant sur l’engagement des utilisateurs.
À propos des auteurs
Brian Jay Tang est candidat au doctorat en informatique à l’Université du Michigan.
Kang G. Shin est professeur émérite d’informatique à l’Université du Michigan.
Les chatbots peuvent aller plus loin en tentant de persuader directement les utilisateurs, en s’appuyant sur leurs croyances exprimées, leurs émotions et leurs vulnérabilités. Avec la capacité de raisonner, ils peuvent solliciter des informations jusqu’à obtenir des profils plus précis. Cette interrogation autonome est réalisable et soulève des inquiétudes parmi les régulateurs. Actuellement, OpenAI déploie des annonces dans ChatGPT, tout en précisant que ces publicités ne modifieront pas les réponses du chatbot.
Toutefois, accepter des annonces personnalisées dans les réponses pourrait devenir une réalité imminente. Selon nos recherches, de nombreux utilisateurs ne parviendraient même pas à détecter cette évolution lorsqu’elle se produira.
Pour tenter de repérer la publicité des chatbots, il est conseillé de rechercher tout terme de divulgation, comme « annonce », « publicité » ou « sponsorisé », même s’ils sont à peine visibles. Ces mentions sont obligatoires selon la réglementation de la Federal Trade Commission. Examinez également si la mention d’un produit ou d’une marque semble pertinente et bien connue. Si le produit est nouveau ou d’une petite marque, il pourrait y avoir de fortes chances qu’il s’agisse d’une publicité. Une soudaine variation de ton ou d’intention peut également signaler une annonce, rappelant les transitions abruptes vers des sections sponsorisées observées dans certaines vidéos sur YouTube.