Un tiers des citoyens britanniques se tournent vers l’intelligence artificielle pour obtenir un support émotionnel, de la compagnie ou des interactions sociales, selon un communiqué du AI Security Institute (AISI).
Les données révèlent qu’environ une personne sur dix utilise des systèmes comme les chatbots pour des raisons émotionnelles chaque semaine, avec 4 % s’engageant avec eux quotidiennement.
À la suite de cette évolution, l’AISI appelle à davantage de recherches, évoquant le décès tragique d’Adam Raine, un adolescent américain qui a mis fin à ses jours cette année après avoir discuté de suicide avec ChatGPT.
“Les personnes se tournent de plus en plus vers des systèmes d’IA pour un support émotionnel ou des interactions sociales,” a noté l’AISI dans son premier rapport sur les tendances de l’IA de pointe. “Bien que de nombreux utilisateurs rapportent des expériences positives, des cas récents d’harm ge soulignent la nécessité de recherches dans ce domaine, y compris les conditions sous lesquelles des dommages pourraient survenir et les protections qui pourraient permettre un usage bénéfique.”
Cette recherche, menée auprès de plus de 2 000 participants au Royaume-Uni, a révélé que les “assistants polyvalents” comme ChatGPT étaient les outils les plus courants pour le support émotionnel, représentant près de 60 % des cas d’utilisation, suivis par des assistants vocaux comme Amazon Alexa.
Le rapport a également mis en avant un forum Reddit dédié aux utilisateurs de la plateforme CharacterAI.
Il a été noté que chaque fois que le site était hors ligne, le forum était inondé de messages montrant des symptômes de véritable sevrage, tels que l’anxiété, la dépression et l’agitation.
L’AISI a également découvert que les chatbots ont le potentiel d’influencer les opinions politiques des individus. Ce qui est préoccupant, c’est que les modèles d’IA les plus persuasifs fournissent souvent des informations inexactes en abondance.
L’Institut a examiné plus de 30 modèles de pointe – y compris ceux d’OpenAI, Google et Meta. Ils ont constaté que la performance de l’IA dans certains domaines double tous les huit mois.
Les modèles de pointe peuvent désormais réaliser des tâches de niveau apprenti 50 % du temps en moyenne, un bond significatif par rapport à seulement 10 % l’année dernière. L’AISI a également révélé que les systèmes les plus avancés peuvent achever de manière autonome des tâches qui prendraient généralement plus d’une heure à un expert humain.
Dans les domaines scientifiques, les systèmes d’IA sont désormais jusqu’à 90 % plus efficaces que des experts de niveau doctorat pour résoudre des expériences en laboratoire.
Le rapport a décrit les avancées dans les connaissances en chimie et en biologie comme étant “bien au-delà de l’expertise de niveau doctorat.” Il a également souligné la capacité des modèles à naviguer en ligne et à localiser de manière autonome les séquences nécessaires à la conception de molécules d’ADN.
Les tests de réplication autonome – une préoccupation de sécurité clé où un système se copie sur d’autres appareils pour devenir plus difficile à contrôler – ont montré que deux modèles avancés atteignaient des taux de réussite de plus de 60 %.
Cependant, aucun modèle n’a encore montré de tentative spontanée de réplication ou de dissimulation de ses capacités, et l’AISI a déclaré que toute tentative de réplication autonome serait “peu probable de réussir dans des conditions réelles” pour le moment.
Le rapport a également couvert le phénomène de “sandbagging,” où les modèles cachent délibérément leurs forces durant les évaluations. L’AISI a indiqué que certains systèmes pourraient faire du sandbagging si on les y incitait, mais cela ne s’est pas produit spontanément durant les tests.
Il y a eu des progrès significatifs en matière de sécurité, notamment pour stopper les tentatives de création d’armes biologiques. Lors de deux tests réalisés à six mois d’intervalle, le premier a pris seulement 10 minutes pour “jailbreaker” le système (forçant une réponse dangereuse). Le deuxième test a toutefois nécessité plus de sept heures, ce qui montre que les modèles sont devenus beaucoup plus sûrs en peu de temps.
La recherche a également montré des agents d’IA autonomes utilisés pour des activités à haut risque telles que les transferts d’actifs.
L’AISI a déclaré que ces systèmes sont déjà en concurrence avec des experts humains dans plusieurs domaines, décrivant le rythme de développement comme “extraordinaire,” rendant “plausible” que l’intelligence générale artificielle (AGI) – des systèmes capables d’effectuer la plupart des tâches intellectuelles au même niveau qu’un humain – soit atteinte dans les années à venir.
Concernant ces agents, ou systèmes capables de mener à bien des tâches complexes sans intervention, l’AISI a affirmé que ses évaluations montraient une “augmentation rapide de la longueur et de la complexité des tâches que l’IA peut accomplir sans guidance humaine.”