Lucie
La lettre ouverte a été publiée sur le portail du Future of Life Institute. Parmi les signataires outre Elon Musk figurent également d’autres pères fondateurs de la Silicon Valley, comme Steve Wozniak.
Netcost-security.fr | Un « robot qui ressemble à Elon Musk » développé par l’intelligence artificielle Midjourney
Un vieil adage de la Silicon Valley dit « Allez vite et cassez les choses ». Il semble donc un peu étrange qu’aujourd’hui certains des protagonistes historiques de ce monde aient décidé de signer un appel pour demander à ceux qui développent des logiciels liés à l’intelligence artificielle d’arrêter. La lettre a été publiée sur le portail du Future of Life Institute et est signée, entre autres, également par Elon Musk.
La demande est de faire une pause. Arrêtez de programmer les lignes de code et réfléchissez à la direction à suivre : « Nous invitons tous les laboratoires d’intelligence artificielle à suspendre immédiatement le développement de systèmes d’intelligence artificielle plus puissants que GPT-4 pendant au moins 6 mois ». Ce logiciel n’a pas été évoqué par hasard, c’est la version mise à jour de ChatGPT, l’intelligence artificielle d’OpenAi qui a été la première à révéler le potentiel de ce secteur au grand public.
La demande aux gouvernements : « Nous avons besoin d’un moratoire »
La proposition de bloquer la recherche sur l’intelligence artificielle n’est pas le seul élément de cette lettre qui suggère un changement de rythme dans la Silicon Valley. En effet, le texte évoque l’intervention des gouvernements pour créer de nouvelles règles sur l’intelligence artificielle : « Cette pause doit être publique et vérifiable et inclure tous les acteurs clés. Si une telle pause ne peut pas être mise en œuvre rapidement, les gouvernements devraient intervenir et instituer un moratoire. »
Peut-être que penser que les « gouvernements » peuvent prendre en considération le problème, l’analyser et le résoudre en six mois n’est peut-être pas très réaliste. Mais après les auditions devant le Congrès de Mark Zuckerberg et Shou Zi Chew, on ne peut pas exclure un futur dans lequel les sénateurs et députés américains seraient en assemblée avec un PC ouvert sur ChatGPT prêt à répondre à toutes les questions.
Doit-on automatiser tous les travaux, y compris ceux qui nous donnent satisfaction ? Devrions-nous développer des esprits non humains qui pourraient éventuellement être plus nombreux et plus rusés ? Devrions-nous risquer de perdre le contrôle de notre civilisation ? De telles décisions ne devraient pas être déléguées à des dirigeants Big Tech non élus. Ces puissants systèmes d’intelligence artificielle ne devraient être développés que lorsque nous sommes sûrs que leurs effets seront positifs et que leurs risques seront gérables.
Qui a signé la lettre
Elon Musk est le nom le plus connu et peut-être lourd. Non seulement on parle de l’homme le plus riche du monde mais aussi de l’un des premiers investisseurs d’Open AI, la société qui a développé ChatGPT. Mais à côté de lui, il y a aussi d’autres pères fondateurs de la Silicon Valley, comme Steve Wozniak, l’homme qui, avec Steve Jobs, a créé Apple. Ou l’écrivain Yuval Noah Harari et le fondateur de Skype Jaan Tallinn. Maintenant, la possibilité de signer la lettre est publique, donc les noms de famille sur la liste que vous trouvez sur le site Web de l’Institut Future of Life pourraient être saisis comme une blague.
Découvrez le reportage du mois (sous-titré en français), l’IA gagnera t-elle face aux champion du monde du jeu de Go ? :