Eric Schmidt, ancien PDG de Google, met en garde contre les dangers de l’IA, notamment la possibilité pour les jeunes de développer une obsession pour des partenaires constructeurs romantiques artificiels. Cette évolution technologique pourrait aggraver la solitude et la radicalisation, posant ainsi de nouveaux défis psychosociaux pour la jeunesse.
Axé sur l’avenir : La capacité de « dater » une intelligence artificielle est le dernier trope de la science-fiction devenu réalité. L’ancien PDG de Google Eric Schmidt n’est pas un adepte de cette tendance, avertissant que créer la parfaite copine alimentée par l’IA pourrait accroître la solitude et mener à des comportements obsessionnels.
Lors d’une discussion sur les dangers de l’IA et la réglementation dans l’émission The Prof G Show avec Scott Galloway, Schmidt a évoqué la possibilité pour les jeunes hommes de créer des partenaires constructeurs romantiques IA parfaits et d’en tomber amoureux. « C’est un bon exemple d’un problème inattendu de la technologie existante, » a déclaré Schmidt.
L’ancien patron de Google a décrit un scénario où un petit ami ou une petite amie IA est parfait visuellement et émotionnellement. Il a souligné que les jeunes hommes sont particulièrement à risque de devenir obsédés et de laisser l’IA dominer leur façon de penser.
« Il existe de nombreuses preuves qu’il y a maintenant un problème chez les jeunes hommes, » a dit Schmidt. « Dans de nombreux cas, le chemin vers le succès pour les jeunes hommes a été, disons, rendu plus difficile parce qu’ils ne sont pas aussi éduqués que les femmes maintenant. »
« Beaucoup de chemins traditionnels [pour les jeunes hommes] ne sont plus aussi disponibles, et ils se tournent donc vers le monde en ligne pour le plaisir et la subsistance, » a déclaré Schmidt, « et à cause des algorithmes des réseaux sociaux, ils trouvent des personnes partageant les mêmes idées qui les radicalisent finalement, soit d’une manière horrible, comme le terrorisme, soit de la manière dont vous parlez – ils sont simplement mal adaptés. »
Nous avons déjà vu les conséquences des dangers que Schmidt met en garde. En octobre, une mère a poursuivi Character.ai après la mort de son threads adolescent qui s’est suicidé après être devenu obsédé par un des bots de la société. Il était tombé amoureux d’un chatbot basé sur le personnage de Daenerys Targaryen de Game of Thrones, avec qui il échangeait constamment des messages et passait des heures seul dans sa chambre à parler.
Schmidt a noté que les adolescents sont particulièrement vulnérables aux dangers des technologies alimentées par l’IA, car ils ne sont pas émotionnellement assez développés. Il croit que les parents devraient être plus impliqués dans les activités en ligne de leurs enfants, mais a admis qu’il y a une limite à ce qu’ils peuvent contrôler.
« Vous mettez un enfant de 12 ou 13 ans devant ces choses, et ils ont accès à tous les maux, ainsi qu’à tous les biens du monde, » a-t-il dit. « Et ils ne sont pas prêts à y faire face. »
Schmidt a également parlé de la nécessité de réformer les lois réglementaires, en particulier la Section 230 de la loi sur la décence des communications, qui protège les entreprises et les plateformes en ligne de toute responsabilité pour le contenu publié par les utilisateurs. Il a déclaré que la loi devrait changer « pour permettre la responsabilité dans les pires cas possibles, afin que lorsqu’une personne est blessée par cette technologie, nous devions avoir une solution pour éviter d’autres dommages. »
Schmidt a dit qu’il ne pense pas que la Section 230 sera modifiée au cours des quatre prochaines années, car l’administration Trump a des problèmes plus urgents à traiter.
Le choix de Trump pour la présidence de la FTC, Brendan Carr, a appelé à des limitations sur la Section 230, qu’il dit avoir été abusée pour donner aux géants de la technologie une immunité en matière de censure. Il veut de nouvelles règles qui empêchent les entreprises de censurer les publications, avec quelques exceptions, permettant aux utilisateurs de choisir leurs propres vérificateurs de faits et filtres.